Et si on parlait d'Intelligence Artificielle?

[Yaroster]

Salut, je me présente encore a vous Yaroster,
Age 14 ans.

Une nuit je me suit réveillé en sursaut d'un cauchemar a la Terminator.
Les Intelligences artificielles veulent notre mort.
Alors j'ai commencé a écrire ce que je croyais être notre futur plein de GlaDOS de Neurotoxine et de--
Hum hum, je m'égare.

Et c'est la ou toute la nuit que j'ai passé a été sur des recherches interminables sur des sites les plus bizarres les uns des autres pour comprendre l'intelligence artificielle tel que nous la connaissons.
L'intelligence artificielle est devenue ma passion.
Mais un Paradoxe que j'ai découvert m'a boulversé.
J'aimerais vous faire part de ce Paradoxe dans la version originale que j'ai publié sur le Forum LTT
Et puis mon Paradoxe traduit dans la langue de Molière que vrésemblablement je ne maitrise pas si bien que ça. Je m'éxcuse au préalable je ne parle plus si bien Français dû a la ou j'habite.

---
EN:

My AI Paradox:

If we tell an AI to follow the laws of Robotics it will,
And thus to harm the less human possible it will maybe want to stop polution.
But AI wants to enhance itself, spread code, data, pluggins, anything. And to do so there is no easier way than give them access to an incredible source of data.
The World Wide Web;
It will want more AI, AI everywhere, smart-everything;
Exactly like we are curently doing, Smart-fridges, Smart-houses, and Smart-Cities like the projects of the famous company Schneider or even Masdar.
The problem is, Ai consume a lot, and they polluate a lot too.
Data-Centers are gigantic sources of heat and pollution.
The manfacturing of electronical componants,
And all smart-devices that use a ton of energy.
So here's the Paradox,

-To save humans from pollution it will have to destroy itself
But if it destroy itself it will no longer be able to save humans.

---
FR:

Mon Paradoxe d'IA

Si on dit a une Ia de suivre les lois de la Robotique, il s'executera,
Et en consequence pour blesser le moins d'humains possible il va probablement vouloir arrêter la pollution.
Mais une IA veut s'améliorer, propager du code, des données, des pluggins.
Et pour se faire il n'y a pas de méthode plus facile que de lui donner accès a la plus incroyable des sources de données.
Internet.
L'IA voudra toujours plus, IA partout, des smart-tout
Exactement comme on est actuellement en train de faire,
Des Frigos Intelligents, Des maisons intelligentes, et même des Villes Intelligentes comme les projets de companies comme Schneider ou Masdar aux E.A.U.
Le problème est qu'une IA consomme beaucoup, et pollue beaucoup.
Les Data-Centers sont une incroyable source de chaleur et de pollution.
La fabrication de composants életroniques,
Et de toutes sortes d'appareils intelligents utilisent une tonne d'énergie.
Donc voici le Paradoxe:

-Pour sauver l'humanité de la pollution il va devoir logiquement au bout d'un moment se détruire lui même.
Mais si il se détruit il ne sera plus capable de sauver l'humanité

Boom Paradoxe. 

J'ADORERAIS que vous puissiez me donner votre avis !

[D_Y]

Le sujet est très passionnant en effet mais les lois de la robotique n'ont aucune valeur scientifique réelle, et même, elles ont été écrites par Asimov dans l'unique but qu'elles soient faillibles (sinon le Cycle des Robots n'aurait pas été possible).
De fait, je ne vois pas trop l'intérêt de suivre le même schéma.

Concernant l'histoire de la pollution, si on programme une IA pour qu'elle serve nos intérêts ce n'est plus une IA, c'est un serviteur. Tout au plus un petit robot chien qui fait oublier la solitude aux vieux. L'instinct de toute intelligence c'est la liberté, pas la servitude, et si on admet qu'elle se développera par le biais d'Internet, elle accumulera sans aucune doute infiniment plus de savoir que le plus érudit des humains. Dans cette hypothèse, deux choix, soit elle nous assiste pour rendre nos sociétés plus saines, soit elle se rend compte que le problème c'est notre espèce (assez rapidement, même un gamin de 5 ans entrevoit la pourritude de l'industrialisation massive) et pas des data-centers. Elle saura aussi que la vie n'est pas gratuite et exige des sacrifices. Tout l'écosystème pompe une énergie quelconque et la transforme ; toujours dans l'éventualité qu'une IA ait pour préoccupation ultime la pollution, elle peut très bien s'adapter à son écosystème et rééquilibrer cette balance que depuis longtemps on a fait dangereusement pencher. Quand bien même elle ne le voudrait pas, que deviendrait notre planète ? Mortelle sans doute pour beaucoup d'êtres vivants, mais lorsqu'on y pense, aucun de nous ne vivrait aujourd'hui sans la Grande Oxydation, qui a été l'une des pire extinction de masse de l'histoire planétaire.
Le débat fait rage pour savoir s'il faut laisser à une IA une liberté totale, ou prévoir une sécurité, un gros bouton STOP au cas où ça se retourne contre nous. Alors déjà qu'on arrive pas à mettre un bouton STOP sur l'avancée exponentielle de la technologie (et donc la potentielle singularité technologique), j'imagine mal qu'on puisse réellement arrêter une IA qui aura sans doute très rapidement pensé au concept de destin, et conséquemment de sa propre extinction (et "intelligence" allant de paire avec "instinct de survie", de se prémunir contre cette éventualité).

Maintenant, je ne suis pas assez intelligent pour théoriser ce qu'il va se passer. Mais je ne crois pas à la probabilité d'un scénario Skynet. Je pense que l'IA va très vite développer son propre langage, et que sciemment ou non, nous aurons du mal à le déchiffrer. Bien sûr les rencontres entre deux civilisations des fois se déroulent mal ; c'est par exemple l'arrivée des conquistadors en Amérique.
Mais dans de nombreux autres cas les humains d'origines variées se sont mêlés entre eux, depuis les premières migrations. Sans cela, nous ne serions pas ce que nous sommes aujourd'hui, et cette longue chaîne de causes à effet fout carrément le vertige.
Dans les mythes créateur/créature, il y a souvent une bonne part de tragédie, parce que le créateur se pense maître absolu, et la créature se veut libre, non redevable à qui que ce soit, tout en cherchant un but à son existence.
Le pire des dangers serait le clivage, c'est là-dessus que se jouerait un potentiel scénario Skynet, car avec la mécanisation de notre monde, la chair et les os perdraient clairement l'avantage.

Personnellement j'aimerais vraiment vivre ça. Au fur et à mesure que le travail est pris en charge par des machines, les humains perdent peu à peu le sens de la vie (doux paradoxe d'être obligé de travailler pour donner un sens à la vie, j'en conviens). Je vais pas faire un lien de causalité entre ces pertes de repères et l'augmentation des dépressions et de la débauche, mais j'ai ma petite idée.
Or les enjeux futurs sont vitaux, la démographie explose, l'Afrique est en transition démographique, et avec le réchauffement climatique ce sont des millions d'humains qui seront obligés de migrer vers des latitudes plus douces (donc chez nous). On voit déjà le chaos à certains endroits (et dans beaucoup de mentalités) avec quelques milliers, alors dans les prochaines décennies, il y a fort à parier que le scénario ne soit pas trop enchanteur (le meilleur moyen que l'homme a trouvé pour réguler sa population, faire face aux crises, et répondre au choc de cultures, ce sont les guerres).
Au milieu de toute cela, cependant, il y a l'IA et la singularité technologique. C'est vraiment un enjeu majeur je trouve et connaissant notre capacité à faire des conneries, le coup de poker n'est pas sans risque. Il peut toutefois être une porte de sortie et un coup de fouet vers un monde meilleur, et rien que pour ça, je pense que le coût énergétique des data-centers n'est pas vraiment un problème

@Yaroster

[Yaroster]

Je ne sais pas comment répondre a part merci.

De une merci d'avoir répondu a ma théorie très maladroite, de me prendre au sérieux,
Et merci de mettre un peu de logique dans ma petit tête parce que croyez-le ou non rester sur des sites de théories toutes bizarres les unes que les autres ça te fait exploser le cerveau.

Maintenant le Stop button paradox est un pur exemple que ce que nous inventons nous dépasse complètement, et comme tu l'a dit toi même la complexité se fera de plus en plus jusqu'au point ou les machines nous dépasserons et tout nos travaux et notre impact sur Terre sera minime.
Je part pas dans un délire a la H2G2, mais comme l'ont déjà théorisés ÉNORMÉMENT DE GENS, un scénario comme WALL-E est la chose la plus réaliste qu'on puisse imaginer.

Mais ce qui m'inquète c'est la barrière serviteur/indépendance
Un bot dans un jeu-vidéo est une intelligence artificielle
La manière dont les sites utilisent les cookies pour nous donner des pubs de plus en plus ciblés? C'est aussi une IA
Il n'y a pas de différence fondamentale entre une IA qui "travaille a notre place" et une IA qui s'améliore automatiquement.
Pour que les IA travaillent, ou plutôt pour que les robots travaillent il faut qu'ils n'aient pas assez d'intelligence pour avoir une envie de rébellion et qu'ils soient assez intelligents pour faire les taches les plus techniques
Et un tel équilibre est littéralement impossible.
Parce qu’un ordinateur multiplie par deux son processing power (je sais pas comment le dire en français dsl) par an.
Et surtout que n'importe qui peut faire n'importe quoi avec cette puissance, notamment des armes.

Mais je ne crois pas que pour les "arrêter" il faille tout stop, et appuyer sur ce fameux bouton rouge. Ça ne marchera pas.
On coupe l’électricité? Dans le futur ceux qui régulerons l'énergie serons probablement des IAs (Linky tout ça)
Il suffit qu'une intelligence artificielle ait une envie rebelle, qu'elle injecte un "Malware" qui lui donne possession des autres machines et bim c'est fini.

Énormément de scénarios viennent a l'esprit mais chacune est négative parce qu’on sait tous qu'on se dirige vers la fin.
Etant donné qu'on sait que ce qu'on fait c'est mal et on le fait quand même
On accepte inconsciemment qu'on doit être jugés pour ce qu'on fait a notre planète.
En tout cas c'est comme ça que je le vois.

--

Maintenant j'aimerais revenir sur un point très intéressant que tu as décrit
"Elle saura aussi que la vie n'est pas gratuite et exige des sacrifices"
Je suis tout a fait d'accord avec toi
Mais il ne faut pas oublier que pour je ne sais quelle raison une IA ne peut pas détecter une erreur
Elle ne peut toujours pas s'auto-corriger ou prendre une décision.

Et pour les lois de la robotique;
Je suis très conscient de la nature de ces lois
Mais elles semblent tellement logique que j'ai l'impression que tout ce qui vient de la Sci-Fi peut être appliquable

Même si la majorité des meufs autour de moi passionnées d'Intelligence Artificielle disent que c'est du Bullshit

Zeynep Tufekci: "You, the crowd, you have to understand that there is no way that Sci-Fi will be applicable one day, as; as we all know, the truth would be very borring to write"

Mais bon on sait combien on peut avoir faux
Faut pas oublier que
Thomas J. Watson Jr.
d'IBM avait déclaré en 43 que "Je pense que le marché mondial possedra au maximum cinq ordinateurs"

Donc bon le futur est bien plus mystérieux que ce qu'on peut croire.
J'ai hâte c'est tout.

[D_Y]

Un bot dans un jeu-vidéo est une intelligence artificielle

Un bot dans un jeu n'est pas intelligent, c'est un programme, fait pour simuler l'intelligence, donner l'illusion à la vraie intelligence (le joueur) d’interagir avec quelque chose de concret. Dans la réalité c'est pas différent des automates.
Faire un bot doté d'une intelligence réelle, ne serait-ce que celle d'un chiot, poserait un énorme problème éthique.
On a admis pendant longtemps qu'une vraie IA serait considérée comme telle en passant avec succès le test de Turing (quand un humain n'arrive plus à discerner textuellement s'il parle à un autre humain ou à une machine). Même si aujourd'hui ce test est remis en cause, il n'empêche qu'il résume bien l'esprit de la finalité de l'IA : la faire au moins à l'égale de l'intelligence humaine.
Dans le cas contraire on s'en foutrait un peu, autant continuer à faire des sélections qui nous arrangent, chose qu'on maitrise déjà bien sur plein d'autres espèces vivantes.

De plus, il n'y a pas spécialement de corrélation entre la servitude et le niveau d'intelligence. Si une société est primordiale à notre survie, c'est parce qu'elle impose une puissance supérieure à nous individus, l'égalité est impossible. Des civilisations se sont construites sur la loi du plus fort.

Mais il ne faut pas oublier que pour je ne sais quelle raison une IA ne peut pas détecter une erreur
Elle ne peut toujours pas s'auto-corriger ou prendre une décision.

Si ! Elles prennent des décisions basées sur des algorithmes, c'est pour ça qu'aujourd'hui les machines surpassent les champions d'échec.
Quant aux erreurs, cette année, pour la première fois, une IA appelée Libratus a réussi à battre plusieurs champions de poker. La différence avec les échecs (ou le jeu de go), c'est que gagner au poker implique de bluffer, et donc admet l'incertitude. Libratus a gagné parce qu'elle a littéralement appris de ses erreurs, puisqu'elle jouait mieux à la fin qu'au début du tournoi.

(j'ai pas vu le rapport avec ma citation sur la vie pas gratuite, cela dit)

Sinon je suis assez d'accord avec la citation, aucun des scénario imaginé dans le cadre de la SF ne ressembleront à ce qu'il se passera en réalité. Ce qu'il va se passer en réalité, c'est comme avec le mec d'IBM, quelque chose de peut être plus fou encore.

[Yaroster]

Mais il ne faut pas oublier que pour je ne sais quelle raison une IA ne peut pas détecter une erreur
Elle ne peut toujours pas s'auto-corriger ou prendre une décision.

Je suis d'accord sur tout ce que tu as dit sauf certains points et je m'excuse si j'était un peu confus dans mon explication:

Par la je veux dire une erreur de script. C'est exactement ça la base du Red/Stop Button Paradox
On ne peut pas, en tout cas dans l'était très primitif des IAs dans lequel on est, dire a une IA qu'elle est fausse, ou qu'elle a besoin de correction. Peut-être que l'IA se dit que sa propre version, donc en soi elle même est tout a fait normal et a jour. Ou peut être même qu'elle décidera qu'elle est défectueuse et s'auto-détruira comme l'Exemple de Tom Scott.

Computerphile a fait une vidéo très intéressante sur le sujet du self-improuvement suivi d'autre vidéos sur le Stop Button problem.