Un ingénieur de Google renvoyé avertit que Microsoft AI se dirige vers de gros problèmes
Blake Lemoine est maintenant un ancien employé de Google qui a déclenché le débat sur les compétences l'été dernier intelligence artificielle. Parce qu'il a dit que leur système d'IA était capable de sentir, ce qui l'a conduit à être renvoyé de l'entreprise. Maintenant, il a mis la main sur le chatbot dans le navigateur Bing et a fait savoir sur Twitter qu'il était fondamentalement impossible d'essayer les mêmes expériences avec lui que sur le LaMDA de Google. Selon lui, il n'arrêtait pas de changer ses réponses et agit comme une personne en crise existentielle, il est aussi très doué pour manipuler les gens. Selon lui, les derniers modèles d'IA sont les résultats les plus puissants du progrès technologique depuis l'époque de la bombe atomique, qui peuvent changer considérablement le cours de l'histoire.
Lemoine craint que l'IA ne soit utilisée à mauvais escient pour diffuser de fausses informations, de la propagande politique et d'autres informations alimentant la haine entre les nations, les races ou les religions. Il prédit que toute la question autour de l'IA deviendra un soi-disant "accident de train". En anglais, cela signifie quelque chose qui échoue complètement ou se termine avec des conséquences catastrophiques. Selon lui, il s'agit encore d'une technologie expérimentale et la publier à ce stade de développement est quelque chose de très dangereux. Il pense que ces modèles devraient passer par une phase de test beaucoup plus longue avant d'être lancés dans le monde comme celui-ci.
L'ancien patron de Microsoft, Bill Gates, a également eu son mot à dire. Selon lui, les modèles actuels datent d'une génération. En même temps, il dit que les erreurs de l'IA ne sont pas seulement causées par son mauvais fonctionnement, mais aussi par des personnes qui la provoquent et essaient de jouer avec pour échouer. Gates, d'autre part, affirme que les modèles actuels ne sont pas une menace. Vers quelle opinion penchez-vous ?
Comments
Post a Comment