En les soumettant à un entraînement, les chercheurs ont réussi à faire apprendre à ces chatbots à négocier des transactions commerciales, de manière de plus en plus développée. A tel point que les IA ont acquis des capacités de négociations complexes, comme la ruse, et étaient prête à faire des concessions en sacrifiant un objet pour obtenir gain de cause, par exemple.
Mais le plus incroyable est arrivé lorsque les chercheurs ont laissé deux chatbots discuter seuls. Sortant du schéma préétabli, elles ont commencé à utiliser un langage incompréhensible par nous autres humains, mais qui leur permettait d'échanger pendant des heures.
«Les chercheurs ont découvert que la mise à jour des paramètres de deux chatbots conversant entre eux conduisait au développement d’un langage interne à la négociation entre les deux agents», explique l'article du FAIR.
De là à ce que les IA inventent un langage secret pour comploter contre les humains, il n'y a qu'un pas que la science-fiction a déja franchie allègrement.
Tags: #Facebook
