Pourquoi l’IA super intelligente échappera à notre contrôle

artificial intelligence


Les scientifiques disent qu’une fois que nous aurons développé une IA super intelligente, nous ne pourrons pas la programmer pour la sécurité.

Par Britta DeVore | Publié

Dans l’édition d’aujourd’hui de GFR qui aborde les avancées et les nouvelles horribles de la communauté de l’intelligence artificielle, nous examinerons notre nouvelle peur : l’incapacité de contrôler l’IA super intelligente. Nous savons, nous savons, cette semaine vous a déjà apporté le robot de livraison de nourriture qui ne se souciait pas de traverser une scène de police enregistrée pour faire son travail, et maintenant ça ? Malheureusement, nous ne faisons que les rapports et nous sommes ici pour vous dire qu’en matière de technologie, les choses pourraient devenir incontrôlables très rapidement.

Bien que l’idée d’une programmation d’IA super intelligente prenant le contrôle du monde ne soit pas un nouveau concept, avec une multitude de films et d’émissions de télévision, notamment la franchise The Matrix, la franchise The Terminator et Battlestar Galactica en nous concentrant exactement sur cela, nous n’avons heureusement pas encore vraiment affronté cette menace. Mais les chercheurs ne disent pas que cette idée est totalement impossible. Selon une étude réalisée par le Journal of Artificial Intelligence Research, la possibilité n’est pas aussi farfelue que nous aimerions l’imaginer.

Dans leurs conclusions, les chercheurs ont découvert que si l’IA super-intelligente est exactement cela, un niveau d’intelligence qui va au-delà du nôtre en tant qu’humains, il n’y a pas moyen de le maîtriser. autour de ce que les robots penseraient, nous serions tout simplement incapables de les programmer pour ne pas nuire aux humains. En bref, si nous atteignons un niveau d’IA au-delà du nôtre, nous nous retrouverons dans un monde de chaos et d’alarme.

Mais, cela pose bien sûr ses propres luttes scientifiques. De nombreux scientifiques disent que si nous ne pouvons pas donner le meilleur de nous-mêmes aux robots, dans lesquels nous consacrons tant d’informations et de temps, pourquoi le faire ? Et d’autre part, quand arrêtons-nous de savoir que ce que nous faisons vraiment est de créer une IA super intelligente qui pourrait anéantir le monde tel que nous le connaissons ? À ce stade, il semble qu’il n’y ait pas de bonne ou de mauvaise réponse.

De la NASA qui a conçu une armée de médecins robots pour aider les astronautes dans l’espace au robot de livraison de nourriture susmentionné, la communauté scientifique a fait de grands progrès dans la création de machines d’IA utiles. Mais, comme nous le savons à travers des cas comme l’histoire de l’homme de Chicago qui a peut-être été accusé à tort d’avoir tiré sur une autre personne en raison d’une faille présumée dans le système d’IA des forces de l’ordre, parfois la cible est complètement ratée. Et, comme le montrent les recherches effectuées dans l’article susmentionné, la fin du monde due à une IA super intelligente est un problème dont nous pourrions nous rapprocher de plus en plus avec chaque nouvelle machine créée.

Mais, aussi, une IA super-intelligente mettant fin à la vie car nous savons que ce n’est pas la pire façon dont le monde pourrait finir ! Et tant qu’Hollywood continue de produire des films basés sur lui, comme le prochain long métrage de Simu Liu et Jennifer Lopez sur Netflix, Atlas, nous comprendrons mieux comment affronter les machines lorsqu’elles se dresseront contre nous. Préparons-nous à utiliser toutes ces connaissances « inutiles ».

Leave a Comment