Les lois de la robotique

Je fais un sujet à part, sinon, je sens que les lois de la robotique vont s'écraser au fond des abîmes de ce forum, où mes précédents posts s'enfonce ou s'efface sans intérêt.

Je disais donc :

R. Giskard Reventlov est bien un robot. Un robot télépathe.

Il était soumis au trois lois de la robotique :

• Première Loi : Un robot ne peut ni porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger;

• Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi;

• Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi.

Le fait que par accident, il soit devenu télépathe lui a permis d'accéder à la complexité des émotions humaines, et dès lors à la motivation réelle des êtres humains.

Il en a déduit que pour continuer à pouvoir obéir aux trois lois de la robotique et ainsi servir les êtres humains, il devait intégrer la notion d'humanité. C'est ainsi qu'est né la Loi Zéro :

• La Loi Zéro : Un robot ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

Ce qui soumet également les trois autres lois à la Loi Zéro.

C'est quatre lois valent bien toutes les révélations sacrées ou les philosophies de l'éthique auxquelles les humains disent se soumettre.

Qu'est-ce qu'un robot? Un serviteur bienveillant de l'humanité. Trouve-t-on des serviteurs bienveillant de l'humanité chez les hommes? Non, car les hommes peuvent transgresser les lois. Les robots ne le peuvent pas, ils se retrouveraient automatiquement désactivés.

Pour les robots, les lois de la robotique servent de conscience. Les hommes n'ont de conscience que dans leurs propres lois qui siègent au fond de leur égoïsme. Ils n'ont jamais intégré la notion d'humanité.

abuzin

Petit exercice :

Comment feriez-vous pour rendre cohérentes ses quatres lois si vous deviez remplacer robot par être humain, sachant que la Loi Zéro serait:

• La Loi Zéro : Un être humain ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

N'oubliez pas que les Lois ne peuvent rentrer en contradiction avec les lois précédentes.

À vous !

abuzin

arnold.jack a écrit:

Les 4 lois du robot :

Impossible parfois de défendre l'humanité sans porter préjudice à un ou quelques hommes.

Dans ce cas le robot doit être programmé pour faire une évaluation des souhaitables et des possibles. ET je crains qu'il ne grille.

Heureusement nos politiciens n'ont pas de fusible et ont des bloqueurs de conscience sans lesquels l'action serait impossible.

Tu n'as pas fais de proposition pour la Première Loi.

Essaye, c'est un travail collaboratif qui pourrait s'avérer plus payant que tu ne le crois.

abuzin

Franchement je ne vois pas comment peuvent fonctionner des robots soumis à ces quatre lois.

Pour la première, je vois mal ce que ferait un robot face à un vieillard souffrant qui voudrait mettre fin à ses jours : l'aidera-t-il ou l'empêchera-t-il ?

Un robot bien sophistiqué sera comme ces hommes qui ont croqué le fruit de l'arbre de la conscience du bien et du mal : il sera bien embarrassé. Ou il agira sur un coup de dés ou il pètera ses plombs.

Mais mes circuits ne sont peut-être pas suffisamment bien cablés pour aborder ce sujet ? Je ne suis qu'un humain de la Xième génération ! On fera mieux, j'espère ...

arnold.jack a écrit:

Franchement je ne vois pas comment peuvent fonctionner des robots soumis à ces quatre lois.

Les robots normaux (non télépathes) n'obéissaient, bien entendu, qu'aux 3 lois. C'est R. Giskard Reventlov, à cause de sa particularité, qui inventa et se soumit de lui-même à la Loi Zéro.

arnold.jack a écrit:

Pour la première, je vois mal ce que ferait un robot face à un vieillard souffrant qui voudrait mettre fin à ses jours : l'aidera-t-il ou l'empêchera-t-il ?

Le robot l'en empêcherait, comme il va de soi. N'oublions pas que ce qui peut motiver un être humain à mettre fin à ses jours, c'est la souffrance émotionnelle ou physique. Sans m'étendre sur le sujet, je dirais que si les êtres humains étaient solidaires, la souffrance émotionnelle n'existerait pas. Pas au point, en tout cas, de pousser un individu à se supprimer. Pour la souffrance physique, des sédatifs accompagnés par des soins et un accompagnement psychologique appropriés, existent potentiellement.

arnold.jack a écrit:

Un robot bien sophistiqué sera comme ces hommes qui ont croqué le fruit de l'arbre de la conscience du bien et du mal : il sera bien embarrassé. Ou il agira sur un coup de dés ou il pètera ses plombs.

Les 3 lois, pour le robot, son incontournables. Si il se trouve devant un dilemme impossible à résoudre, effectivement, son cerveau se fige.

R. Giskard Reventlov, en raison de la Loi zéro, trouvait toujours une échappatoire qui lui permettait de sortir des situations délicates, par le haut.

arnold.jack a écrit:

Mais mes circuits ne sont peut-être pas suffisamment bien cablés pour aborder ce sujet ? Je ne suis qu'un humain de la Xième génération ! On fera mieux, j'espère ...

Mais si, tu en est capable. Je vais t'aider pour transcrire la Première Loi à l'être humain :

• La Loi Zéro : Un être humain ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

• Première Loi : Un être humain ne peut ni porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger Cette loi n'est valide que si elle ne rentre pas en contradiction avec la Loi Zéro.

Cela fonctionne très bien. Un être humain est une composante de l'humanité, il n'est pas l'humanité.

Exemple : si Adolph H. a le doigt sur le bouton qui provoquera le cataclysme nucléaire sur le reste du monde, il est évident que la Première Loi s'applique, et qu'il est hors de question de le tuer. Mais comme son acte menace l'humanité, il faut donc le supprimer en accord avec la Loi Zéro. C'est la Loi Zéro qui prime. Il n'y a donc pas d'équivoque.

Tout le génie d'Isaac Asimov était de créer des situations qui créaient des tensions entre les 3 Lois. Avec l'arrivée de la Loi Zéro, R. Giskard Reventlov obtenait de facto le statut d'un Dieu protecteur au service de l'humanité. Sa vision devenait une vision à long terme (psychohistoire) et ses actions ponctuelles visaient à tenir l'humanité sur le meilleur chemin possible.

Ok, la Deuxième Loi, maintenant.

• Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi;

Comment peut-on faire face à ce concept de donneur d'ordre qui implique qu'un être humain puisse être supérieur à un autre être humain?

À vous ...

abuzin

De tels robots constituent une des plus grandes menaces pour l'humanité. Ce sont ces lois, prétendues parfaites et inviolables, qui assureraient la protection de l'humanité?

Tellement de failles nous viennent à l'esprit, qu'on a plus tendance à traiter le robot téléphate comme un ennemi plutôt qu'un ami.

Cette application des tois lois par les robots ne peut-être que figé. Du fait de cette rigidité à adopter une décision, cette mise en application des trois lois peut engendre des catasrophes.

Une simple faille de cet accomplissement automatique de tâches et l'homme regrettera d'avoir pu concevoir une telle machine.

Le but de ces lois n'est pas de rendre les robots "bons" pour l'homme, mais plutôt de les rendre innoffensifs. Ces idées peuvent être perçues de la même manière, mais il existe une légère nuance.

abuzin a écrit:

La Loi Zéro : Un être humain ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.

Cette loi, qui paraît si douce, est selon moi la plus dangereuse des 4 lois. Elle permet aux robots de porter atteinte à un homme, si cet homme est une menace pour l'humanité.

Pour diminuer le danger de la loi zéro, il faudrait penser à la remplacer par la loi suivante: "Un robot ne peut porter atteinte à un homme".

Le système des lois est à revoir.
Allias.

Citation :

• Première Loi : Un robot ne peut ni porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger;

Bonsoir à tous,

Si un tremblement de terre ou une éruption volcanique sont annoncés, que va faire le robot face à l'être humain exposé au danger ?

Si un tel robot existait, il n'y aurait plus aucunes victimes lors de catastrophes naturelles.

Si le robot avait un tel pouvoir, celui qui l'a programmé détiendrait aussi ces pouvoirs !

Cela signifie que l'être humain ne met pas en application tout ce dont il est capable et qu'il fait exécuter par un robot.

Pour répondre à la première loi de la robotique les Japonais exigeront des constructeurs d'installer un nombre suffisant de capteurs pour que les robots ne puissent jamais entrer en collision avec des personnes.



Les matériaux les plus légers ou les plus tendres seront préférés, afin d'éviter toute blessure éventuelle.

Des interrupteurs d'urgence seront également exigés.

Les héros des romans ou des films de science-fiction passant un temps considérable à essayer de stopper certaines machines hors de contrôle, il faut espérer que ces boutons seront placés bien en évidence afin d'en faciliter l'accès lorsque cela s'avèrera nécessaire !

Enfin l'intelligence du robot étant contrôlée par voie logicielle l’utilisation de routines Microsoft devrait être interdite ou alors il faudra rebooter souvent le robot.

Déjà le danger se profile à l’horizon : Dans l'édition de janvier 2007 de Scientific American, Bill Gates, le patron de Microsoft, prédit que notre avenir appartient aux robots, venant de lui, ça commence mal car Microsoft dévoile un kit de développement logiciel pour la robotique.
Eh oui, c’est parti comme en quatorze, la fleur au fusil…


Et pendant ce temps-là, tous les jours nous constatons que de plus en plus souvent les machines et logiciels refusent d’obéir sans explication rationnelle, comme si elles étaient soumises à un envoûtement Vaudou….

En fait les lois d'Asimov renvoient à deux sentiments très antinomiques.

Le premier est humaniste, le robot doit être au service de l'homme et non l'inverse.

Le second est esclavagiste, dans une société moderne le robot tient le rôle de l'esclave.
De fait si on remplace le mot robot par esclave dans les lois de la robotique cela fonctionne également très bien.

Si on définit un esclave comme un être auquel on aurait retiré tout droit d'influer ou de décider sur le sens de sa vie et sur son destin, cela vaut aussi pour les citoyens dépossédés du pouvoir dès que les isoloirs sont fermés et la boucle est bouclée, il n'y aurait plus besoin de démocratie.

Et puis, je me pose une dernière question :
En vertu de la première loi, un robot peut-il laisser un humain fumer sachant que c’est très dangereux pour lui ?

jemrobe

Allias a écrit:

Pour diminuer le danger de la loi zéro, il faudrait penser à la remplacer par la loi suivante: "Un robot ne peut porter atteinte à un homme".

Le système des lois est à revoir.

Il semble que mes camarades n'ont rien compris au "film".

Vous vous tracassez des robots, et moi je fais une analogie entre les lois de la robotique et la DUDH.

On fait de la philosophie, donc on parle dans l'absolu. On ne pose pas la question de savoir si un robot à qui on a donné l'ordre d'aller chercher un paquet de frites avec une portion de mayonnaise, rapportera de la salade parce les frites et la mayonnaise contiennent de la graisse et que c'est une nourriture nocive pour l'homme.

Jerombe a soulevé un point intéressant en parlant d'un rapport maître/esclave ou l'esclave vit pour servir le maître dans un altruisme quasi empathique, mais où le maître traite l'esclave dans une parfaite indifférence ne s'intéressant qu'à sa satisfaction.

Là où j'aimerais en arriver, là où j'ai toujours voulu arriver, c'est dans le partage d'une prise de conscience que la vie ne peut s'épanouir que dans une certaine solidarité. Cette solidarité trouve sa raison d'être dans l'acceptation par l'homme qu'il appartient à une unité supérieure qui s'appelle "humanité".

L'homme est à l'humanité ce qu'une de ses cellules est à l'homme. Lorsque les cellules prennent leur indépendance par rapport à la globalité, elles forment un cancer. L'humanité est en danger de s'éteindre par cancer. Tout son corps est envahi par des métastases communautaristes qui oublient la vérité suprême et basique : si l'humanité meure, tous les hommes meurent.

Enfin, je m'arrête là. Il ne sert à rien de trop écrire, car ce qui est de trop n'est jamais lu. Pour être lu et espérer être compris, il ne faut jamais dépasser dix lignes.

abuzin

abuzin a écrit:

Enfin, je m'arrête là. Il ne sert à rien de trop écrire, car ce qui est de trop n'est jamais lu. Pour être lu et espérer être compris, il ne faut jamais dépasser dix lignes.

abuzin

Diogène le cynique, qui prévoyait la perte de capacité de réflexion induite par l'usage exclusif des machines à penser par voie logicielle, le disait déjà en son temps mais je l'avais oublié :

Quant aux gens ordinaires expliquer le sens de la vie tu voudras,
Seulement des phrases courtes avec sujet, verbe et complément tu feras,
Pas plus d'une idée à la fois tu n'exprimeras,
À un seul paragraphe ton discours tu limiteras,
Et toujours ta réponse sous forme de question tu formuleras.

Grâce à ces palabres dialectiques bien encadrés,
Tu ne risqueras plus d'être mal compris et mal aimé.

jemrobe

Allias écrit :

Le but de ces lois n'est pas de rendre les robots "bons" pour l'homme, mais plutôt de les rendre inoffensifs.

Je pense en effet que bien souvent les robots, soumis à nos problèmes, afin d’être inoffensifs, seraient paralysés.

Aider un homme à mourir : dans l’intérêt de l’homme, dans l’intérêt du groupe ou de l’humanité : les hommes n’arrivent pas à trancher, alors le robot ?

Ets-ce solidarité que de ne pas laisser mourir l’homme qui le souhaite et qui - de son point de vue- a de bonnes raisons de le faire ? Est-ce solidaire que de ne pas l’aider ? N’est-ce pas par solidarité, parfois, -(ne pas encombrer ses proches) que certains se suicident ?

La notion de solidarité ferait griller bien des robots !

Quant au suicide – petite incidente – Bouddha à 80 ans, s’est fait servir un plat de champignons vénéneux, s’est couché, a prononcé quelques ultimes paroles et est mort. Bien sû, ceux qui ont fait une religion de sa philosophie n’en parlent pas. Peut-on dire que Bouddha a manqué de sens de l’humanité ? Je crois que c’est le contraire. Quel robot va départager les points de vue ?

arnold.jack a écrit:

Peut-on dire que Bouddha a manqué de sens de l’humanité ? Je crois que c’est le contraire. Quel robot va départager les points de vue ?

Bouddha a poser un acte. Il en assume les effets. L'humanité ni les robots n'ont rien à voir là-dedans.

Le pire qui puisse arriver, c'est que l'euthanasie se généralise. Parce que l'on sait très bien ce que l'homme en fera. La retraite coûtant très cher à la société, on poussera aimablement les vieux vers la sortie et on sera choqué s'ils ne collaborent pas. Mourir pour ne pas encombrer ses proches est déjà un pas vers cette vision de la vieillesse qui encombre et qui sera notre futur.

Je crois qu'il serait bon d'ouvrir un sujet sur les soins palliatifs.

abuzin

Avant d'engager un débat sur les soins palliatifs il conviendrait à mon avis d'aborder aussi la question soulevée par abuzin concernant les anciens jeunes devenus vieux parce qu'ils étaient trop cons sans doute pour mourir d'accident avant et qui, encore trop jeunes et en bonne santé pour se faire piquer par le vétérinaire du coin afin de débarrasser le plancher d'une position encombrante, sont malgré tout enregistrés dans la rubrique des centres de coûts et en passe d'être transformés en variable d'ajustement des budgets sociaux.

On peut lire ici la lettre d'une dame de 85 ans qui en a gros sur la patate de cette situation.

jemrobe

jemrobe a écrit:

On peut lire ici la lettre d'une dame de 85 ans qui en a gros sur la patate de cette situation.

Comme dit, en substance, cette brave dame, elle s'est privée pour élever ses gosses et payer son du à la société, et aujourd'hui on lui dirait qu'elle coûte trop cher.

Si c'est ça la solidarité entre générations, je propose aux jeunes couples de futurs vieux qui convolent de ne pas oublier d'avorter, parce qu'autrement, plus tard, ils risquent d'avoir affaire à des ingrats.

abuzin

abuzin a écrit:

Si c'est ça la solidarité entre générations, je propose aux jeunes couples de futurs vieux qui convolent de ne pas oublier d'avorter, parce qu'autrement, plus tard, ils risquent d'avoir affaire à des ingrats.

abuzin

Non car un avortement c'est la mise à mort d'une vie en devenir, ce n'est pas une bonne solution.

Je suis bien d'accord avec ton analyse : le seul moyen préventif d'éviter que la génération "n+1" soit en mesure d'exercer son devoir d'euthanasier la génération "n" est de ne pas engendrer la génération "n+1".

Pour ne pas se mettre en travers la loi divine, les générations n'ayant pas déjà engendré devraient donc imiter les ecclésiastiques en adoptant leurs vœux de chasteté ou, s'ils n'en ont pas la force, de se faire vasectomiser ainsi que le préconisait Arnold-jack.

jemrobe

Bonsoir à tous,

Cette semaine, j'étais en vacances. Je suis allée chez mes parents. Je devais rester deux ou trois jours. En fait, je ne suis rentrée qu'hier soir.
Papa a été hospitalisé. Je suis restée avec maman (89 ans, très affaiblie). Elle ne pouvait pas rester toute seule sans surveillance. J'ai une soeur qui habite le même village mais elle était aux sports d'hiver.

Il est normal que les enfants veillent sur leurs parents âgés, comme eux veillaient sur nous quand on était petits.

Je suis rentrée à Nantes et suis bien triste de ne pas être plus près d'eux.