Clé à emporter
- Un chercheur de haut niveau dit que l'IA est déjà consciente.
- Mais d'autres experts en intelligence artificielle affirment que les ordinateurs sont loin d'acquérir des capacités cognitives de niveau humain, y compris la conscience.
- Déterminer si quelque chose est conscient peut être délicat.
L'idée d'intelligence artificielle (IA) consciente évoque des images de machines prenant le contrôle du monde, mais les experts ne s'entendent pas sur l'opportunité de prendre le concept au sérieux.
Un chercheur de haut niveau en IA a récemment affirmé que l'IA est déjà plus intelligente que nous ne le pensons. Ilya Sutskever, scientifique en chef du groupe de recherche OpenAI, a tweeté qu'"il se peut que les grands réseaux de neurones d'aujourd'hui soient légèrement conscients". Mais d'autres experts en intelligence artificielle disent qu'il est bien trop tôt pour déterminer quoi que ce soit de la sorte.
"Pour être consciente, une entité doit être consciente de son existence dans son environnement et que les actions qu'elle entreprend auront un impact sur son avenir", a déclaré Charles Simon, PDG de FutureAI, à Lifewire dans une interview par e-mail. "Aucun de ces éléments n'est présent dans l'IA actuelle."
Surhumain ?
Sutskever a déjà averti que l'IA super intelligente pourrait causer des problèmes. Interviewé dans le documentaire sur l'IA iHuman, il a déclaré que l'IA avancée "résoudrait tous les problèmes que nous avons aujourd'hui", mais a également averti qu'elle avait "le potentiel de créer des dictatures infiniment stables".
OpenAI a été fondée en tant qu'organisation à but non lucratif destinée à éviter les risques que posent les ordinateurs intelligents, mais a également mené des recherches destinées à créer l'IA.
Alors que de nombreux scientifiques ont rejeté l'affirmation de Simon selon laquelle l'IA est consciente, il a au moins un défenseur bien connu. Tamay Besiroglu, informaticien du MIT, a défendu Sutskever dans un Tweet.
"Voir autant de personnalités [de l'apprentissage automatique] ridiculiser cette idée est décevant", a écrit Besiroglu sur Twitter. "Cela me rend moins optimiste quant à la capacité du terrain à prendre au sérieux certaines des questions profondes, étranges et importantes auxquelles ils seront sans aucun doute confrontés au cours des prochaines décennies."
Qu'est-ce que la conscience ?
Même déterminer si quelque chose est conscient peut être délicat. Le chercheur en intelligence artificielle Sneh Vaswani a déclaré à Lifewire dans un e-mail que la conscience comporte plusieurs étapes. L'IA a fait des "percées décentes" dans les premières étapes, a-t-il déclaré.
"Aujourd'hui, une machine peut comprendre les émotions, construire un profil de personnalité et s'adapter à la personnalité d'un humain", a-t-il ajouté. "Au fur et à mesure que l'IA évolue, elle évolue vers les stades avancés de la conscience plus rapidement que nous ne pouvons même le comprendre."
Il existe de nombreuses définitions de la conscience, et certains diront que les arbres et les fourmis sont quelque peu conscients, une idée qui "étend la définition au-delà de l'usage courant", a déclaré Simon. Il soutient que la conscience de soi est la compréhension de soi en tant qu'entité consciente.
"La conscience et la conscience de soi se manifestent dans un certain nombre de comportements tels que l'intérêt personnel, mais aussi dans une sensation interne", a déclaré Simon. "Si les IA sont vraiment conscientes, nous pourrons observer les comportements mais aurons peu de connaissances sur la sensation interne. Il est possible de simuler la conscience avec une bibliothèque de comportements d'apparence consciente comme se référer à elle-même comme" je ", mais un une entité véritablement consciente est capable de planifier et d'envisager plusieurs résultats."
Vaswani est optimiste quant au résultat de la création d'une IA super intelligente, même si Elon Musk fait partie de ceux qui ont averti qu'une IA consciente pourrait conduire à la destruction de l'humanité.
"Lorsque l'IA prendra pleinement conscience, elle complétera une société "incomplète": les humains et l'IA coexisteront", a déclaré Vaswani. "Nous atteindrons ensemble des objectifs plus ambitieux, et l'IA se fondra parfaitement dans notre monde."
Certains experts en IA disent que le concept même d'IA consciente relève plus de la science-fiction que de la réalité. Le problème a tendance à trop insister sur les robots de "style terminator" et non sur les dommages potentiels très réels d'une IA biaisée qui existe déjà, a déclaré Triveni Gandhi, responsable de l'IA chez Dataiku, dans un e-mail à Lifewire.
"Nous ne ferons peut-être pas face au prochain Ex Machina, mais nous sommes confrontés à de vrais défis", a déclaré Gandhi. "Cela se voit dans l'utilisation abusive d'une IA fortement biaisée pour prédire les coûts des soins de santé, dans les outils de recrutement qui filtrent injustement les CV ou dans les modèles de crédit qui renforcent les inégalités existantes."
L'IA n'est pas intrinsèquement bonne ou mauvaise, ce sont juste des données qui font ce que nous leur disons de faire, soutient Gandhi.
Les préjugés humains se retrouvent dans les données et les modèles d'apprentissage automatique. Nous devons donc être très clairs sur les données que nous utilisons, pourquoi nous choisissons d'utiliser l'IA à ce titre et comment les choix sont ensuite présentés aux gens affecté par un système d'IA », a ajouté Gandhi.
