La guerre des robots est à nos portes !

Concerne toutes les sciences, même les plus improbables...

Modérateur : Nrico

Avatar du membre
voltige
Administrateur du site
Administrateur du site
Messages : 1377
Enregistré le : jeu. 16 févr. 2012 07:48

La guerre des robots est à nos portes !

Message non lu par voltige » mer. 20 févr. 2019 05:02

En lisant cet article, je me suis demandée où étaient passées les "lois d'Azimov" qui disent :
Loi zéro :

Un robot ne peut par son action mettre l'humanité en danger, ni, restant passif, laisser l'humanité en danger.

Première loi :

Un robot ne peut par son action mettre un être humain en danger, ni, restant passif, laisser un être humain en danger, sauf si cela est en contradiction avec la loi zéro.

Deuxième loi :

Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la zéro ou la première Loi.

Troisième loi :

Un robot doit protéger sa propre existence aussi longtemps qu'une telle protection n'est pas en contradiction avec les lois qui précèdent.
Il est à noter que dans l'idée de Asimov, les lois ne sont pas des directives strictes, mais génèrent un "potentiel" variable, celui des loi 0 et 1 étant le plus important. Un ordre impératif (potentiel fort de la loi 2) peut ainsi entrer en conflit avec un risque minime de mettre un être humain en danger (faible potentiel de la loi 1). Sans cette notion de potentiel, les robots ne feraient rien de ce que l'on demande, car en fait presque toutes les actions d'un robot peuvent se révéler plus ou moins dangereuses pour les humains : conduire un véhicule, par exemple (risque d'accident), mais même parler (risque de blesser la susceptibilité de l'humain à qui l'on s'adresse), ou simplement servir un verre d'eau à un humain (risque minime, mais existant, que l'eau contienne un germe pathogène), etc... Il existe de plus une frontière floue entre "mettre un humain en danger" et "faire du tort à un humain". L'ajustement correct des potentiels de chaque loi est donc le point clef de la robopsychologie.

du sang sur une main de robot ? Les lois zéro et un, par leur seconde clause ("ni restant passif..."), font que le robot ne peut être inactif, même en l'absence d'ordres reçus. Lorsqu'il n'a pas d'ordre à exécuter, le robot doit rechercher ce qui pourrait mettre un humain (ou l'humanité !) en danger... La loi zéro autorise explicitement un robot à mettre en danger un humain si cela peut protéger l'humanité (on pense à la "neutralisation" d'un dictateur fou, etc.). Mais bien sùr, si l'on ne veut pas que les robots tuent tous les présidents des nations nucléaires au motif qu'ils ont la capacité de déclencher une guerre atomique, les "potentiels" des lois zéro et un ont intérêt à être sacrément bien ajustés... Lire l'article

Image

Et on en vient à l'article de Sylvain Devaux de Robolution où les lois d'Azimov sont pour le moins oubliées. Pire puisqu'il est question de laisser l'IA décider seule...

La guerre des robots est à nos portes ! Naïveté ? Désinformation ? Difficile à dire et certainement un peu des deux. Il est vrai que le sujet inquiète, celui des « robots tueurs« . Comme le dit si bien Marc Chassillan, consultant spécialisé dans l’armement militaire, il faut parler de « SALA ». C’est à dire de « Systèmes d’Armes Létales Autonomes », ça peut faire un peu moins peur.

Pour ce grand spécialiste devant l’éternel, cela n’existe pas vraiment. pas plus dans le militaire que dans le civil. En fait, il estime que ce n’est pas d’actualité. « Ce serait une machine capable d’analyser un environnement complexe et de décider, seule, d’actions séquencées, correspondant à une vraie « stratégie ». A ce jour, aucune machine répondant à cette définition n’est offerte sur le marché » a-t-il livré dans une interview.

Evidemment, ce qui pêche, c’est la stratégie…mais pour combien de temps encore. Dans une voiture autonome, l’IA ne décidera pas de votre destination et s’il est pertinent de s’y rendre mais vous y emmènera en décidant seule des options à prendre en fonction de la route. Pour les engins militaires…c’est tout comme. J’allais dire « comme d’habitude », mais c’est vrai que c’est une nouvelle fois la Chine qui défraye la chronique sur le sujet.

Sans doute une des raisons pour laquelle Trump veut aller plus vite dans le développement de l’IA dans son pays. Pour l’instant, la Chine commercialise unnouveau drone baptisé « Blowfish2 ». L’enginest capable de voler de façon autonome jusqu’à sa cible et l’abattre sans la moindre intervention humaine. L’engin est commercialisé aussi en Afrique et dans les zones de combat du Moyen-Orient…

Mais l’objectif de la Chine va plus loin encore et veut contredire rapidement les propos de notre expert Marc Chassillan. L’objectif est effectivement que l’IA devienne décisionnaire en matière militaire et qu’elle dirige les armées ! C’est ce que compte faire une des grandes entreprises d’armement chinoise, Zeng Yi …La prochaine guerre sera donc celle des robots ? En tout cas les cibles seront sans aucun doute encore bien humaines…

Il n’est pas trop tard…Mais presque !

Sylvain DEVAUX

**********************

Anda Keay quant à elle, a édicté 5 lois pour la robotique. Que vont en faire les "décideurs" ? C'est presque un monde à la "Terminator" qui nous attend! Si les machines se mettent à "penser" et à "prendre des décisions", elles pourraient nous considérer comme un danger pour elles ou, inutiles et pourraient nous livrer une guerre pour nous éradiquer.. Un vrai cauchemar non ? Ce monde est peuplé de cinglés :o :o
« 1. “ Les robots ne doivent pas être utilisés comme des armes ” : nous ne pourrons pas éviter ce phénomène (la police de Dallas a utilisé un “ robot tueur ” pour abattre un sniper en juillet) mais nous devons tenter de le limiter.
2. “ Les robots doivent se conformer aux lois, notamment celles sur la protection de la vie privée.
3. “ Les robots sont des produits : en tant que tels, ils doivent être sûrs, fiables et donner une image exacte de leurs capacités. ”
4. “ Les robots sont des objets manufacturés : l’illusion créée (la capacité à reproduire des actions et des émotions) ne doit pas être utilisée pour tromper les utilisateurs les plus vulnérables. ” Vulnérables, nous le sommes tous, selon le moment de notre vie et le degré d’exposition aux appareils connectés.
5. Enfin, “ Il doit être possible de connaître le responsable de chaque robot ” : si un robot vient nous servir du café là, tout de suite, puis-je savoir qui est responsable de ce robot ? A-t-il un signe de l’enseigne sur lui ? Si vous enlevez ce signe, je ne sais pas quelles sont ses intentions, est-ce qu’il va me suivre, me barrer le chemin ? Il y a un besoin de transparence. »
Lire l'article
Le savoir ne sert à rien, s'il n'est pas partagé ♥♥

Avatar du membre
bidouille
Posteur XXL
Posteur XXL
Messages : 998
Enregistré le : ven. 15 août 2014 21:19

Re: La guerre des robots est à nos portes !

Message non lu par bidouille » mer. 20 févr. 2019 17:37

on va écrire un code déontologique pour IA :D

IL EST DIS ICI
Que vont en faire les "décideurs" ? C'est presque un monde à la "Terminator" qui nous attend! Si les machines se mettent à "penser" et à "prendre des décisions", elles pourraient nous considérer comme un danger pour elles ou, inutiles et pourraient nous livrer une guerre pour nous éradiquer.. Un vrai cauchemar non ? Ce monde est peuplé de cinglés :o
ça m'intéresse vraiment :evil: ..... terminator voir battlestar Galactica , les robots se retournent contre les humain , futur fiction devenant plausiblement réalité j'en n'est peur! .....

simpat l'article volti ..... qui sera ou éditera les gardes fou ?, l'IA sera autonome qu'on le veuille ou non , elle aura vocation à s'auto- émancipé en devenant créatrice de nouvelle génération de IA , l'esprit humain majoritairement séquentielle sera irrémédiablement largué dépasser lol , ils seront équipé de cerveaux cybernétique en mode arborescent, bien sur certains des humains (une minorité) ,sont aussi en mode arborescence, la comparaison s'arrête ici . Le monde de l'émotion et l'intuif resterons aux humain .

L'humain n'a pas de concurrent sur terre , il s'ennuie il s'en inventera un malgrés lui si on peut dire .
:*

Avatar du membre
jack57
Big posteur
Big posteur
Messages : 184
Enregistré le : lun. 4 avr. 2016 20:15

Re: La guerre des robots est à nos portes !

Message non lu par jack57 » mar. 26 févr. 2019 15:21

Les films annoncent toujours le futur en général,un film à voir parce qu’on y est ;)
Le future gouvernement connecté est en préparation ,le projet "NEOM/NOM" avec un super ordinateur quantique.
Le modeste budget consacré à I.A par la France
https://www.sciencesetavenir.fr/high-te ... nce_122578

Transcendance

Dans un futur proche, un groupe de scientifiques tente de concevoir le premier ordinateur doté d’une conscience et capable de réfléchir de manière autonome. Ils doivent faire face aux attaques de terroristes anti-technologies qui voient dans ce projet une menace pour l’espèce humaine. Lorsque le scientifique à la tête du projet est assassiné, sa femme se sert de l’avancée de ses travaux pour « transcender » l’esprit de son mari dans le premier super ordinateur de l’histoire. Pouvant désormais contrôler tous les réseaux liés à internet, il devient ainsi quasi omnipotent. Mais comment l’arrêter s’il perdait ce qui lui reste d’humanité ?



https://www.echosciences-grenoble.fr/co ... e-l-humain

ET ICI UNE SURPRISE https://www.express.co.uk/news/world/10 ... odhisattva

**

Avatar du membre
peterpan57
Posteur XXL
Posteur XXL
Messages : 3529
Enregistré le : jeu. 7 janv. 2016 04:20
Localisation : Lorraine 57

Re: La guerre des robots est à nos portes !

Message non lu par peterpan57 » ven. 8 mars 2019 23:22

Que deviendrais la Liberté d'Expression des entités electroniques ?
Un robot est fait de matiére froide et sans coeur ni émotions,
lui rendre cela reviendrais a risquer de le voir aller manifester avec les GJ pour les Droits et Libertés individuels.

Ce risque ne sera certainement pas pris...

Avatar du membre
jack57
Big posteur
Big posteur
Messages : 184
Enregistré le : lun. 4 avr. 2016 20:15

Re: La guerre des robots est à nos portes !

Message non lu par jack57 » lun. 11 mars 2019 20:59

J'espère que je ne serais plus là pour la voir cette guerre https://thecakeisaliegaming.files.wordp ... tation.jpg

Avatar du membre
jack57
Big posteur
Big posteur
Messages : 184
Enregistré le : lun. 4 avr. 2016 20:15

Re: La guerre des robots est à nos portes !

Message non lu par jack57 » sam. 30 mars 2019 09:45

Et on nous parle de créer des emplois,au moins ce personnel ne râle plus,ne manifeste plus,ne se met plus en maladie et plus besoin de lui faire une fiche de paye, c'est que du bonheur pour le Dieu argent :roll:

https://www.liveleak.com/view?t=927yZ_1553810035

Avatar du membre
bidouille
Posteur XXL
Posteur XXL
Messages : 998
Enregistré le : ven. 15 août 2014 21:19

Re: La guerre des robots est à nos portes !

Message non lu par bidouille » lun. 6 mai 2019 17:52

il n'ya rien sur ton lien .

il à pas l'air mal ce film transcendance , il me fais pensée à sky net dans terminator huhu ...

Répondre