La Cité catholique

Le saviez-vous ?

« Citons également les quatre scénarios imaginés pour l’évolution de la société Google (cf. K. Taylor, « Imagining the Google Future », Business 2.0 Magazine, CNNMoney.com, 2006). (…)dans le quatrième et dernier scénario, en 2105, Google se métamorphoserait en Dieu après avoir sauvegardé et mis en réseau la totalité de la conscience humaine : « Nous ne scannons pas tous ces livres pour qu’ils soient lus par des gens. Nous les scannons pour qu’ils soient lus par une IA », affirmait l’un des ingénieurs du GooglePlex en 2005 (cf. G. Dyson, Turing’s Cathedral, www.edge.org, 2005) » (extrait de : J.-Cl. Heudin, Les créatures artificielles, Odile Jacob, Paris, 2008, page 385).

<: , mais à méditer...

C'est une des hypothèses classiques de la science-fiction. Espérons que cet ingénieur ne manque pas d'humour !
Je me souviens vaguement, en trekkie, d'un épisode de la fameuse série Star trek qui mettait en scène une machine ayant accédé à la conscience et à la toute-puissance matérielle au terme d'un processus d'assimilation de toutes les connaissances disponibles dans l'Univers. Expérience vouée à l'échec, selon la conclusion de cet épisode.
Je vais rechercher cet épisode dans ma vidéothèque et vous en dire plus.

Comment est-ce qu'une machine peut sauvegardé et mettre en réseau la totalité de la conscience humaine ?

Je croyais que pour avoir une conscience il fallait un esprit et une âme

L'intelligence artificielle c'est l'artificialité de l'intelligence.

Je suis en école d'ingénieur d'informatique, et je fais de l'intelligence artificielle. Il est totalement utopique de penser que l'IA pourrait nous dépasser. En effet, ce que l'IA sait, c'est obligatoirement nous qui lui donnons. De plus on est incapable de modéliser parfaitement la pensée humaine. On sait faire un ordinateur qui bat le champion du monde d'échec mais uniquement parce qu'on lui a apprit. Il n'est pas capable de trouver tout seul un style de jeu comme un humain le ferait en jouant aux échec régulièrement avec des amis.


Bref, l'IA est loin d'être un danger, elle sera toujours sous notre contrôle car elle dépend de nous.

Yves54 a écrit : elle sera toujours sous notre contrôle car elle dépend de nous.

Cher Yves54,

Nous les hommes faisont tous les jours tout notre possible pour que cette IA soit de plus en plus autonome. Partant de là, ne serait-il pas possible qu'un jour, elle devienne trop autonome?

Bien à toi.

« Nous ne scannons pas tous ces livres pour qu’ils soient lus par des gens. Nous les scannons pour qu’ils soient lus par une IA »

À mon avis cette phrase est bien mal comprise par Heudin. Cet ingénieur ne veut pas dire par là que Google scanne des livres pour occuper les pensées d'une IA. Mais qu'il le fait simplement pour permettre des traitements de masse sur les données textuelles afin de faciliter certaines recherches, faire des stats etc.

C'est exactement la même chose que lorsque l'on dit que les logiciels des systèmes Unix sont conçus non pour dialoguer avec l'homme, mais avec la machine. Cela signifie tout simpement que ce sont des outils conçus pour être automatisés, et donc pour faciliter les traitements de masse.

Il est totalement utopique de penser que l'IA pourrait nous dépasser. En effet, ce que l'IA sait, c'est obligatoirement nous qui lui donnons.

Exactement, et c'est du pur bon sens. Nous ne pourrions concevoir une IA reproduisant parfaitement l'esprit humain, que si nous étions capables de regarder de haut notre intelligence, et donc d'être "au-dessus" d'elle. Ce qui suppose qu'elle ne serait déjà plus notre intelligence. Pas besoin de sortir du M.I.T. pour penser cela. Mais parfois, l'orgueil pousse des techniciens, scientifiques, intellectuels géniaux à sortir du chemin de la rationnalité dont ils se croient malgré tout les seuls gardiens et dépositaires.

Bref, l'IA est loin d'être un danger, elle sera toujours sous notre contrôle car elle dépend de nous.

C'est là qu'il faut faire attention. Je vous invite à lire "God & Golem inc." de Norbert Wiener. Il explique très bien les dangers de l'automatisation à outrance, et de la trop grande confiance que nous risquons de lui accorder.

J'ai écris un petit article à ce sujet. Cette problématique est déjà parfaitement comprise et résolue par les réflexions chrétiennes sur la magie, ou juive sur le Golem :
http://enarkeenologos.blogspot.com/2008 ... arole.html

De plus, il faut se rappeler les avertissements de Hannah Arendt sur les progrès de la technique dans la Condition de l'homme moderne : il se pourrait «que nous ne soyons plus jamais capables de comprendre, c'est-à-dire de penser et d'exprimer, les choses que nous sommes capables de faire»

Qu'est-ce que cela signifie ? Qu'à force de complexification, les choses que nous créons ne soient de plus en plus compréhensibles que par les spécialistes qui les ont conçues. Chaque spécialiste ne comprenant rien à ce que fait un autre spécialiste.

La conséquence directe c'est que tout devient étranger à tout le monde, sauf la petite chose dont nous sommes le spécialiste mais que nous sommes incapable d'intégrer dans l'ensemble du vécu humain, de comprendre et d'expliquer en relation avec la société des hommes et sa destinée finale, métaphysique. Nous devenons dès lors paradoxalement l'esclave de l'outil que nous maîtrisons, puisque dans un tel contexte, il est la seule chose qui nous raccorde un tant soit peu au réel.

Nous commençons déjà à connaître cela.

Kharec a écrit :

Yves54 a écrit : elle sera toujours sous notre contrôle car elle dépend de nous.

Cher Yves54,

Nous les hommes faisont tous les jours tout notre possible pour que cette IA soit de plus en plus autonome. Partant de là, ne serait-il pas possible qu'un jour, elle devienne trop autonome?

Bien à toi.

Ce que sait un ordinateur (IA ou pas), c'est l'homme qui derrière l'a programmé. De fait l'IA ne peut pas dépasser l'homme techniquement parlant car cela voudrait dire qu'elle dépasse son créateur, techniquement ce n'est pas faisable car cela supposerait une capacité de raisonnement réelle et non apprise comme dans le cas de l'IA.


Jean-Baptiste, je viens aussi de lire votre message. Les techniciens peuvent ergoter et rêver, la réalité est là. L'IA ne raisonne pas toute seule, on lui a apprit à raisonner et encore de manière incomplète.

Pour le deuxième point que vous soulevez, je vous dirais que tout dépend de la communication que les "spécialistes" ont entre eux.

"Skynet de la NSA"

A quoi peut-on s'attendre lorsqu'il s'agit de l'intelligence artificielle utilisée dans des programmes élaborés par des services de renseignement? Probablement, à des victimes innocentes.

Lire la suite: http://fr.sputniknews.com/international ... z40aWAMO00

Plus d’un millier de spécialistes en intelligence artificielle et en robotique ont lancé un appel sous forme de lettre ouverte pour avertir sur les dangers de "la course aux armements autonomes dotées d’IA".

Lire la suite: http://fr.sputniknews.com/defense/20150 ... z40aX01WS5

En Russie, le système d'intelligence artificielle Unicum a été testé avec succès, ce qui laisse entrevoir que des problèmes tant civils que militaires pourraient être résolus automatiquement par des robots grâce à ce système.

Lire la suite: http://fr.sputniknews.com/defense/20151 ... z40aXLqDEx

La Norvège s'oppose à l'interdiction des « robots tueurs »
Ine Eriksen Søreide, la ministre de la défense norvégienne (centre droit), s'est prononcée jeudi 23 octobre contre l'interdiction temporaire des systèmes d'armes létales autonomes, ou « robots tueurs », rapportent plusieurs médias locaux comme Hegnar. « Il serait inopportun d'interdire le développement des robots tueurs. Il est aujourd'hui difficile de savoir ce que recouvre cette notion. Il n'y a actuellement aucune technologie qui puisse vraiment recevoir ce qualificatif », a-t-elle répondu à une question du parlementaire travailliste Kåre Simensen.

http://www.lemonde.fr/pixels/article/20 ... 08996.html

L'argent fera en sorte que tout ce système se développe. Je ne m'inquiète pas pour ça...

p.cristian a écrit :Je réfléchis dernièrement aux conséquences du développement rapide des intelligences artificielles. Je pense que les ordinateurs sont idiots, et que l'on puisse les amener dans certains domaines à réflechir comme nous, ne veut pas dire qu'on a donné de l'intelligence à un programme. La conséquence est plutôt que notre intelligence est surfaite.

C’est un peu bizarre d’écrire cela… alors que c’est justement grâce à cette intelligence que vous pouvez l’écrire. Notre intelligence – à savoir la raison – est tout simplement unique sur cette planète. On peut s’extasier sur les prouesses d’animaux dressés par l’homme, cela reste ridicule comparé à ce que l’intelligence humaine peut accomplir.
Quant à l’intelligence artificielle, je ne me fais pas trop de souci, jamais un ordinateur n’aura une conscience comme la nôtre. L’esprit humain est capable d’abstraction, chose qu’une machine ne pourra jamais imiter.

Cordialement,

p.cristian a écrit :Je réfléchis dernièrement aux conséquences du développement rapide des intelligences artificielles. Je pense que les ordinateurs sont idiots, et que l'on puisse les amener dans certains domaines à réflechir comme nous, ne veut pas dire qu'on a donné de l'intelligence à un programme. La conséquence est plutôt que notre intelligence est surfaite.

C’est un peu bizarre d’écrire cela… alors que c’est justement grâce à cette intelligence que vous pouvez l’écrire. Notre intelligence – à savoir la raison – est tout simplement unique sur cette planète. On peut s’extasier sur les prouesses d’animaux dressés par l’homme, cela reste ridicule comparé à ce que l’intelligence humaine peut accomplir.
Quant à l’intelligence artificielle, je ne me fais pas trop de souci, jamais un ordinateur n’aura une conscience comme la nôtre. L’esprit humain est capable d’abstraction, chose qu’une machine ne pourra jamais imiter.
Cordialement,

Vous avez sans doute raison, l'ordinateur qui fera de la métaphysique n'existe peut-être pas encore, mais peut-être simplement parce qu'il n'y a pas d'intérêt économique à le faire.

Lorsque les véhicules seront automatisés (cela doit être faisables dans les 10/20 ans), c'est le travail de près de 15% des actifs français (je crois) qui sera menacé.
L'intelligence artificielle d'IBM Watson est déjà capable de donner des conseils à des médecins oncologues : http://www.ibm.com/watson/health/oncology/
ou de remplacer en partie des centres d'appels : https://www.ibm.com/marketplace/cloud/c ... header-top
On fait déjà mieux que le confesseur automatisé imaginé par Georges Lucas dans THX1138
https://www.youtube.com/watch?v=U0YkPnwoYyE

Bref, peut-être que les I.A. ne sont pas encore au point pour remplacer les créateurs, les artistes ou les philosophes, mais pour remplacer le boulot d'une bonne partie de la population, je pense qu'on est pas loin d'une révolution, dont il faudra penser les conséquences.