Alors que l’intelligence artificielle se développe dans une kyrielle de secteurs, des chercheur du Google Neural Machine Transmission (GNMT) et du Facebook Artificial Intelligence Research (FAIR) se sont rendus compte que les réseaux neuronaux sur lesquels ils travaille tous ont inventé leur propre langage interne, impossible à comprendre des humains.

Des chercheurs de deux expériences sur l’intelligence artificielle permis les plus avancées au monde, le GNMT de Google et le FAIR de Facebook rapportent que leur réseau neural communique dans une langue secrète inventée par la machine vraisemblablement pour communiquer de manière plus efficace. Les deux expériences travaillent sur la linguistique : la première sur les traductions et la seconde sur la négociation.

L’année dernière des chercheurs de Google rapportaient que leur réseau neural dédié à la traduction avait développé son propre langage à partir des langues apprises lors de l’entrainement du réseau. L’idée était de savoir si grâce à l’intelligence artificielle, on pouvait apprendre à la machine de faire par exemple une traduction coréen-japonais, en ne lui ayant appris qu’à faire des traductions anglais-coréen et anglais-japonais.

Intelligence artificielle : les machines inventent des langues secrètes que personne ne comprend

A leur grande surprise, les chercheurs se sont rendu compte que leur réseau neural en était capable, et se sont alors demandé comment cela pouvait bien être possible. Ils se sont alors progressivement rendus-compte que la machine utilisait une interlangue formée de celles qu’on lui avait apprises :

Cela signifie que le réseau doit encoder quelque chose autour de la sémantique de la phrase plutôt que de mémoriser de simples traductions phrase à phrase. Nous interprétons cela comme un signe de l’existence d’une interlangue dans le réseau

Chose assez surprenante étant donnée que la machine n’avait pas été entrainée pour cela. Autre expérience chez Facebook avec le projet FAIR : comme le révèle fascodesign.com, au cours d’une expérience impliquant l’un des logiciels de négociation les plus évolués au monde,  les chercheurs ont fait une erreur de programmation. Ils sont partis du principe que puisqu’on avait les avait entrainées à parler anglais, les IA négocieraient en anglais.

Or aucune « récompense » n’avait été codée pour que les deux intelligences artificielles impliquées dans l’expérience s’en tiennent à parler anglais. Résultat ? Petit à petit, les deux machines se sont mises à inventer leur propre langage, leur permettant d’arriver bien plus vite à la solution optimale de la négociation. Au passage, cette langue dérivée de l’anglais est devenue complètement incompréhensible des chercheurs.

L’expérience a été retentée depuis plusieurs fois pour en comprendre les ressorts. L’un des chercheurs, Dhruv Batra, explique :

Les agents vont peu à peu s’éloigner d’un langage que l’on peut comprendre et s’inventer des noms de codes. C’est un peu comme si je vous dis ‘the’ cinq fois, et que vous interprétiez cela par le fait que je veux cinq copies de cet objet. Ce n’est pas très différent de la manière avec laquelle les communautés humaines se créent des raccourcis

Après ces quelques expériences, les développeurs de FAIR ont forcé leurs intelligences artificielle à parler anglais. Mais doit-on empêcher les IA de communiquer entre-elles dans des langues que nous ne comprenons pas ? D’un côté les chercheurs pensent que cela leur permet de gagner en efficacité. De l’autre, cela signifie qu’au fil du développement de l’intelligence artificielle, nous devront peut-être accepter d’être exclus de la conversation.

Source : papergeek

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.