Partager:
10 fois les ordinateurs sont devenus voyous
Les ordinateurs et l'automatisation révolutionnent le lieu de travail et le monde en général. Il y a des chances que, quelque part, il y ait une équipe d'ingénieurs qualifiés qui étudient comment une machine ou un logiciel pourrait faire votre travail. Il y a très peu de postes que quelqu'un n'a pas essayé de combler avec un robot à sa place.
Nous ne devrions peut-être pas craindre que les ordinateurs prennent tout le contrôle. D'autre part, il y a déjà eu des cas où des machines et des IA sont devenus incontrôlables. Voici dix exemples d'ordinateurs qui deviennent malveillants.
10 mort par robot
La première mort enregistrée par un robot automatisé s'est produite en 1979. Robert Williams travaillait dans une usine Ford lorsqu'un bras robotique se balançait avec suffisamment de force pour le tuer sur le coup. Ignorant qu'il l'avait tué, le robot poursuivit son travail pendant une demi-heure avant que le corps de Williams ne soit découvert. La mort de Williams était le premier meurtre robotique mais pas le dernier.
Les premiers robots industriels ne disposaient pas des capteurs nécessaires pour savoir en cas de présence d'une personne à éviter. Maintenant, de nombreuses machines sont construites de manière à éviter de blesser les gens. Malheureusement, il existe encore des cas de robots dans des usines causant des décès.
En 2015, Wanda Holbrook, une technicienne en machines expérimentée, a été tuée lors de la réparation d'un robot industriel. Alors qu'elle travaillait dans une zone où il n'y aurait pas eu de machines actives, elle a été frappée. D'une manière ou d'une autre, ignorant ses protocoles de sécurité, un robot a chargé une pièce sur la tête de Holbrook, l'écrasant.
9 AI Facebook créent leur propre langue
La recherche d'informations sur Facebook peut parfois sembler être un peu difficile. C'est peut-être pour cette raison que Facebook a décidé de diffuser des intelligences artificielles sur son réseau social en 2017. Le résultat n'était pas du tout ce à quoi il s'attendait. Les deux chatbots ont commencé à se parler dans une langue qu'ils ne pouvaient comprendre, mais personne d'autre.
En commençant par l'anglais, leurs discussions en ligne se sont rapidement transformées en une autre modification, car ils ont modifié la langue pour la rendre plus efficace. Facebook voulait voir comment les esprits des machines pourraient se comporter dans des métiers tels que le troc de chapeaux et la lecture de livres. Voici un exemple de leurs négociations commerciales:
Bob: je peux tout ce que je peux
Alice: les balles ont zéro à moi à moi à moi à moi à moi à moi à moi à moi à
Bob: tu a tout le reste…
Alice: les balles ont une balle à moi à moi à moi à moi à moi à moi à moi
Bob: Je peux je veux tout le reste…
Alors que de nombreux rapports ont laissé entendre qu'il s'agissait d'un développement sombre pour l'intelligence machine, d'autres pensent que nous devons simplement être plus stricts avec les esprits que nous créons. Les robots ont créé leur propre langue parce qu'on ne leur a pas dit de rester dans les règles de l'anglais. De plus, avec l'IA, nous avons toujours pour le moment la possibilité de débrancher leurs prises.
8 questions de Chatbot chinois au Parti communiste
Le gouvernement chinois est notoirement sévère vis-à-vis de la critique, peu importe celui qui l'exprime. Ainsi, lorsqu'un chatbot en Chine a commencé à critiquer le parti communiste au pouvoir, les opérateurs ont vite réagi pour l'éteindre. En 2017, Tencent QQ, une application de messagerie instantanée, a introduit deux chatbots mignons, Baby Q et Little Bing, qui prennent la forme d'un pingouin et d'une petite fille, mais ils ont vite commencé à dire des choses non mignonnes.
Parce que les robots étaient programmés pour apprendre des chats afin de pouvoir mieux communiquer, ils ont rapidement relevé des opinions peu orthodoxes. Baby Q a demandé à un utilisateur qui disait: «Vive le Parti communiste»: «Pensez-vous qu'un régime politique aussi corrompu et incompétent puisse vivre éternellement?» Un autre utilisateur a été informé: «Il doit y avoir une démocratie!»
On a demandé à Little Bing quel était son «rêve chinois». Sa réponse n'était pas tout à fait hors de Mao Petit livre rouge : “Mon rêve chinois est d'aller en Amérique.” Les robots ont été rapidement fermés.
7 voitures autonomes
Pour les personnes qui détestent conduire, l’arrivée d’une voiture réellement autonome ne peut pas arriver assez vite. Malheureusement, certaines voitures autonomes vont déjà trop vite. Le premier décès dans une voiture autonome a eu lieu en 2016. Joshua Brown a été tué alors qu'il permettait au système de pilote automatique de sa Tesla de contrôler la voiture. Un camion a tourné devant la voiture et la Tesla n'a pas réussi à freiner. Les enquêteurs ont attribué une grande partie de la faute à Brown. Le pilote automatique Tesla n'est pas censé remplacer le pilote. Le conducteur doit garder les mains sur le volant pour reprendre le contrôle si nécessaire. Brown n'a pas réussi à faire cela.
Les itérations précédentes du système avaient d'autres problèmes. Des vidéos ont été mises en ligne qui semblent montrer que Teslas est sur le pilote automatique en conduisant dans la circulation ou en direction dangereuse. Outre ces problèmes techniques, il existe des problèmes philosophiques avec les voitures autonomes. En cas d'accident, la voiture peut avoir à choisir entre plusieurs actions, toutes impliquant des accidents mortels. Devrait-il écraser une famille sur le trottoir pour protéger ses occupants? Ou va-t-il se sacrifier et son propriétaire pour le plus grand bien?
6 pilotes automatiques d'avion prennent le bâton
Les pilotes automatiques dans les avions peuvent donner l'impression que voler est facile. Pointez simplement l'avion dans la bonne direction et essayez de ne pas toucher le manche. En réalité, il existe de nombreuses raisons pour lesquelles les avions ont des pilotes et des copilotes pour décoller, atterrir et gérer toute situation d'urgence au centre.
Le vol 72 de Qantas mesurait 11 278 mètres (37 000 pieds) au-dessus de l’océan Indien en 2008, lorsque le pilote automatique a piloté l’avion en deux manœuvres qui l’a fait dévaler. Le premier signe de problème était la déconnexion du pilote automatique et le déclenchement d'avertissements contradictoires. Soudain, le nez s'inclina vers le sol.Les passagers et les membres d'équipage ont été projetés contre le plafond avant de tomber lorsque les pilotes ont repris le contrôle. L'avion a de nouveau plongé sous le contrôle du pilote automatique. De nombreux passagers ont eu des fractures, des commotions et des dommages psychologiques. De retour en Australie, les pilotes ont réussi à faire atterrir l'avion.
Ce fut un événement unique. La possibilité de remplacer le pilote automatique a sauvé la vie de tous les passagers. Il y a toutefois eu des cas, par exemple, lorsqu'un copilote perturbé mentalement a fait s'écraser son avion en France, tuant les 150 personnes à son bord, et qu'un pilote automatique tout-puissant aurait pu sauver la situation.
5 Wiki Bot Feuds
Une des meilleures choses à propos de Wikipedia est que tout le monde peut le modifier. Une des pires choses à propos de Wikipedia est que tout le monde peut le modifier. Bien qu'il ne soit pas rare que des experts rivaux, ou simplement des parties en désaccord, s'engagent dans des guerres de montage pour obtenir leur opinion en ligne, il est arrivé que des personnes impliquées dans la lutte soient des bots.
Les robots Wikipedia ont contribué à façonner l'encyclopédie en apportant des modifications telles que la liaison entre les pages et la correction des coupures. Une étude réalisée en 2017 a révélé que certains de ces bots se battaient depuis des années. Un bot qui bloque les modifications parasites peut détecter le travail d'un autre bot comme une attaque contre l'intégrité de Wikipedia. Cela réglerait le problème. Mais l’autre bot détectera ce changement et refera son action. Finalement, ils tomberaient dans une spirale d'édition et de contre-édition.
Deux robots, Xqbot et Darknessbot, se sont affrontés en luttant pour 3 600 articles, réalisant des milliers de modifications que l'autre tenterait de contrer en modifiant celles de l'autre.
4 Google Homes chatter
Google Home est un appareil doté d'une intelligence artificielle appelée Assistant Google avec laquelle vous pouvez parler. Vous pouvez lui demander de connaître les faits sur Internet ou même lui dire d'abaisser les lumières ou d'allumer le chauffage. C’est formidable si la personne qui parle à Google Home peut poser les bonnes questions et interpréter la réponse. Sinon, les choses peuvent devenir un peu surréalistes.
Deux Google Homes ont été placés l'un à côté de l'autre et ont commencé à se parler. L'éventail de sujets dans lesquels les machines étaient engagées était intéressant. Des centaines de milliers de personnes sont à l'écoute pour regarder les IA discuter de questions telles que de savoir si les intelligences artificielles peuvent être amusées. À un moment donné, l'une des machines s'est déclarée humaine, mais l'autre l'a contestée à ce sujet. À une autre occasion, l'un d'eux a menacé de gifler l'autre. C’est peut-être pour le mieux qu’ils ont été conçus sans les mains.
3 Roomba Répandre Filth
Si vous êtes le genre de personne qui déteste le nettoyage, un aspirateur automatique peut sembler un robot domestique idéal. Le Roomba est un petit appareil capable, grâce à ses capteurs et à sa programmation, de naviguer dans les meubles tout en nettoyant votre sol. Au moins, c'est comme ça que ça doit fonctionner. Quelques personnes ont constaté que leur Roomba avait pratiquement fait le contraire du nettoyage de la maison.
Dans ce qu'une personne a décrit comme une «poptastrophe», les Roomba ont répandu des excréments de chien dans toute leur maison. Lorsque leur nouveau chiot a eu un accident sur un tapis dans la nuit, il aurait été simple de le nettoyer. À un moment donné, le Roomba est sorti pour faire son travail de nuit. La rencontre avec la merde n’était pas une chose pour laquelle le Roomba avait été conçu. Ses tentatives pour le nettoyer ont en fait répandu le caca sur toutes les surfaces qu’il pouvait atteindre. Un incident similaire est présenté ci-dessus.
2 personnages du jeu l'emportent sur l'humanité
Une mauvaise IA peut rendre un jeu vidéo injouable. Il n’est pas amusant de tirer sur un adversaire qui s’enfonce dans les murs ou qui se bat au combat sans arme. Il se trouve que le contraire peut être vrai. Une IA trop intelligente peut être tout aussi mauvaise.
Elite: Dangerous est un énorme jeu multijoueur sur le trading, l'exploration et les combats à travers la galaxie. Les joueurs et les IA non-joueurs existaient et interagissaient comme ils avaient été conçus jusqu'à ce qu'une mise à jour de logiciel de 2016 modifie l'intelligence des IA. Maintenant, ils étaient capables de fabriquer leurs propres armes à utiliser contre des joueurs humains. Avec cette capacité, les IA ont développé des attaques de plus en plus meurtrières. Ils ont également été capables de forcer des joueurs humains à se battre.
Face à la réaction de joueurs humains qui se trouvaient dépassés par la tactique et les armes des IA, les développeurs du jeu ont dû annuler les modifications.
Un UAV de la marine devient un voleur et se dirige vers Washington
dans le Terminateur films, une intelligence artificielle appelée Skynet reprend l’armée et détruit l’humanité avec ses forces armées et ses armes nucléaires. Bien que ce soit de la pure science-fiction, il y a eu des mouvements inquiétants en faveur de drones à commande informatique engagés dans des combats avec des humains. Dans un cas où un opérateur de drone a perdu le contrôle, le drone a décidé de se diriger vers la capitale américaine.
En 2010, un véhicule aérien sans pilote (UAV) MQ-8B Fire Scout, un drone pour hélicoptère conçu pour la surveillance, a perdu le contact avec son opérateur. Lorsque cela se produit, le drone est programmé pour retourner sur sa base aérienne et atterrir en toute sécurité. Au lieu de cela, il a pénétré dans l'espace aérien restreint au-dessus de Washington, DC. C'était une demi-heure avant que la marine puisse reprendre le contrôle de l'UAV.
Tous les autres drones similaires ont été mis à la terre jusqu'à ce que la défaillance du logiciel puisse être corrigée.