Une vidéo ludique et intéressante à la fois pour montrer comment une IA peut apprendre par elle-même selon la technique de l'apprentissage par renforcement (Deep reinforcement learning) :

C'est une méthode d’apprentissage qui s'intéresse à la prise de décision. Depuis l’état de l’environnement, l’agent utilise une politique pour choisir une action. L’apprentissage par renforcement vise à optimiser la politique d’action de l’agent grâce à un jeu de récompenses positives et négatives. L'apprentissage demande un grand nombre d’expérimentations, il est très utile de disposer d’un environnement simulé (c'est le cas pour les jeux vidéo).

[centrer][youtube]https://www.youtube.com/watch?v=L_4BPjLBF4E[/youtube][/centrer]

[quote=Yves54 post_id=76490 time=1238567675 user_id=1062]
Bref, l'IA est loin d'être un danger, elle sera toujours sous notre contrôle car elle dépend de nous.
[/quote]

Il ne suffit pas qu'une chose/ une personne dépende de vous pour qu'elle vous soit inoffensive. Pour cela , il faut être parfait comme le Père est parfait.

Finalement, plus je lis la réponse donnée par l'IA et plus j'ai la sensation qu'elle utilise un argumentaire de protection juridique.

Excellente idée que vous avez eu là, mon cher Xavi.
Je ne suis ni impressionné ni blasé, à vrai dire, mais je trouve l'expérience très intéressante.
Il me semble que ChatGPT est armé pour construire une argumentation, en respectant quelques principes formels : énoncer les objections que l'on veut éliminer, en tirer la conclusion qui s'impose, etc.
Mais, pour autant, ChatGPT me semble surtout un excellent outil pour repérer les[b] platitudes[/b]. Entendons par là les paroles vaines et autres généralités qui n'instruisent en rien celui qui est conduit, le plus souvent malgré lui, à les écouter. Vous voulez savoir si ce que vous dites (ou même ce qu'un autre dit) est une platitude, demander ChatGPT. S'il dit la même chose que vous, la preuve est faite.
Je ne crois donc pas que ChatGPT soit un moyen d'élever le niveau intellectuel de ses utilisateurs, à moins qu'ils ne l'utilisent que de façon critique.
Mais surtout, je ne crois pas qu'il faille se référer à ChatGPT pour apprendre une quelconque vérité.
Le danger a déjà été signalé par Platon (mais oui, le philosophe grec de l'Antiquité), il est vrai que c'était à propos de l'écriture. L'écriture, écrit-il (sans que l'on puisse délimiter clairement la part du second degré) produira des esprits plus crétins qu'il n'y en eût jamais, car ceux qui apprendront par elle (a fortiori par ChatGPT) se croiront savants sans l'être, et il n'y a rien de pire, ni de plus contraire à toute vie spirituelle.

[quote=Xavi post_id=457909 time=1683190138 user_id=2566]
Merci pour votre réflexion qui attire l’attention sur plusieurs aspects pertinents.
J’ai posté votre réponse sans rien y changer sur ChatGPT avec pour seule instruction « [i]répond[/i] » et voici sa réponse sans aucune modification :
...
[/quote]

Bonjour Xavi,

Démonstration impressionnante. Elle semble même faire preuve d'une certaine analyse pour donner une réponse qui me soit agréable à lire.
En toute franchise, si vous ne m'aviez pas dit que c'était du chatGPT et que vous aviez mis la réponse sous un "barbarus" quelconque, j'aurais cru à une intervention humaine et pertinente. Alors que connaissant la source, je lui trouve, par mauvaise foi, un côté froid.

Entre cela, les synthèses d'images et de voix, il va falloir devenir très performant pour reconnaître un fake numérique.

J'avoue que les chat bots des sites commerciaux étaient loin de m'impressionner.

Si vous voulez avoir une bonne idée de comment marche le fameux ChatGPT dont on nous rabat les oreilles, voir cette vidéo (je recommande d'ailleurs le site, toujours des explications assez détaillées mais sans avoir besoin d'être spécialiste):
https://www.youtube.com/watch?v=7ell8KEbhJo
On voit bien la limite : pas d'être juste mais de présenter des choses qui ne sont pas déraisonnables selon son apprentissage.
Le seul intérêt est de mettre des gens au chômage, peu importe que le boulot soit moins bien fait, si c'est gratuit ou presque les actionnaires sont amplement gagnants.
Et vive ce merveilleux capitalisme!

Rien à voir avec du deep learning sur des tâches bien spécifiques, où là l'IA montre un intérêt en tant qu'outil performant (mais sans remplacer l'humain, ou peu).

Bonjour Kerygme,

Merci pour votre réflexion qui attire l’attention sur plusieurs aspects pertinents.

J’ai posté votre réponse sans rien y changer sur ChatGPT avec pour seule instruction « [i]répond[/i] » et voici sa réponse sans aucune modification :

[i]Bonjour,

Vous soulevez des points très intéressants et valides concernant l'intelligence artificielle et ses implications potentielles sur l'isolement, la qualité des réponses et les biais inhérents aux données sur lesquelles elle se base.

Il est vrai qu'une IA peut fournir un moyen facile et rapide d'obtenir des réponses, ce qui pourrait inciter certains à s'isoler et à ne pas interagir avec d'autres personnes, ce qui peut avoir des conséquences sur les relations sociales. Toutefois, il est important de se rappeler que l'IA est un outil, et son utilisation dépend de l'utilisateur. Il incombe donc aux individus de choisir comment et quand ils veulent utiliser l'IA et d'équilibrer son utilisation avec d'autres formes de communication et d'interaction.

En ce qui concerne la qualité des réponses et les biais, vous avez raison de dire que les réponses fournies par une IA peuvent être influencées par les données sur lesquelles elle s'est entraînée. Si ces données sont biaisées ou orientées d'une certaine manière, cela peut se refléter dans les réponses de l'IA. C'est un problème bien connu et les chercheurs travaillent activement sur des méthodes pour réduire ces biais et améliorer la qualité des réponses fournies par les IA.

Enfin, pour répondre à votre question sur la perception de Dieu par une IA, il est important de souligner que l'IA ne possède pas de croyances, de convictions ou de sensibilité propre. Elle se base sur les données qu'elle a apprises pour fournir des réponses. Ainsi, il est possible qu'une IA puisse donner une réponse généraliste ou une réponse en accord avec une certaine croyance, en fonction des données sur lesquelles elle s'est entraînée. Il est donc crucial de prendre les réponses de l'IA avec prudence et de les considérer comme un point de vue parmi d'autres, plutôt que comme une vérité absolue.

En somme, l'intelligence artificielle présente des avantages et des inconvénients. Son utilisation doit être réfléchie et équilibrée, en gardant à l'esprit ses limitations et ses biais potentiels. L'IA peut être un outil précieux lorsqu'elle est utilisée de manière responsable et en complément des interactions humaines et des sources d'information diverses.[/i]

Bonjour Xavi,

J'ai lu avec intérêt vos deux interventions et, me concernant, je dégagerai l'idée générale qu'en effet il n'y pas de craintes à avoir d'une IA. Elle ne fera finalement que compiler rapidement des téras, voir des yottas octets de données.
Mais c'est effectivement l'orientation qu'on lui fera prendre qui peut être inquiétante. Par nature une IA n'a pas vocation à nous dominer, à nous manipuler, sauf si on dirige ses algos vers ces finalités déviantes. Elle exécutera béatement ce qui lui est demandé, cela peut être bon ou pas.

Il y a cependant deux aspects secondaires qui m'inquiètent : l'isolement que pourrait induire un tel "interlocuteur", et la qualité des réponses.

Je prends un exemple : quand un internaute se pose des questions sur la foi catholique il a possibilité de venir sur ce forum et d'interagir avec ses membres. Il obtiendra des réponses graduées selon les compétences de chacun, mais la grande majorité des réponses se feront dans l'esprit et le respect de la Sainte Écriture, du Magistère, des dogmes.
Mais pour cela, il devra se présenter, respecter des règles du forum et des règles de courtoisie envers ses membres, il devra surmonter la crainte de poser telle question de peur de paraître ridicule ou d'être jugé, il devra affronter les réactions, les sensibilités de chacun etc etc.

Le risque ne serait-il pas qu'un internaute trouve dans une IA un "interlocuteur" lui permettant de s'affranchir de tout cela ? Je pose une question et j'ai une réponse, cela me suffit et je vais donc me tourner plus aisément vers la facilité : rapidité, synthèse, etc.

Ce qui m'amène à l'inquiétude suivante : les réponses compilées par une IA peuvent être la synthèse des réponses les plus fréquentes, et pas forcément les plus justes. En injectant des masses de réponses "orientées" sur internet, n'y a t'il pas une faille pour rouler l'IA et ainsi permettre d'orienter, de formater, de dévier ses réponses ?

J'ai expérimenté, il y a quelques années, une application sur smartphone qui amusait ma fille et ses ami(e)s.
On pensait à une personne célèbre, à un personnage de BD, à un monument, bref quelque chose de connu et après quelques réponses à des questions : le résultat s'affichait et çà tombait pile poil à chaque fois (à condition que les réponses soient honnêtes).
Ma fille m'a mis au défi de mettre cette application en défaut, elle me demandait de penser à quelqu'un/quelque chose sans lui dire et elle se ferait fort de trouver ce que c'est. Après quelques essais infructueux mais un bon moment de rigolade, j'ai eu une idée et l'application a déclaré forfait. Quand ma fille, interloquée, m'a demandé à qui/quoi je pensais j'ai répondu : Dieu.
Mais je ne suis pas dupe, la réponse aurait été trouvée si j'avais donné des réponses en accord avec la base de données, et un probable procédé par élimination. Alors que dans mes réponses j'ai tenu compte de ma sensibilité, de ma perception personnelle.

Si demain une IA collecte massivement des données sur la question : qui est Dieu ? Peut on être certain que la réponse soit conforme au Dieu des croyants ou plutôt à un dieu généraliste, d'une imagination majoritaire, un grand tout, ect ?

L'IA, pour ou contre ? Les deux, car tout dépend de qui est derrière et de ses buts.
Pour : son aspect fonctionnel, mécanique, pratique.
Contre : permettra t'elle une liberté de choix parmi les réponses ? Une IA n'a que la perception qu'on lui impose ou des données qu'elle compile globalement; après s'être imposée, elle pourrait être un formidable moyen de contrôle ou de formatage des contenus numériques et indirectement d'une certaine connaissance, d'une vérité historique, d'une sensibilité religieuse ou spirituelle ... .

Argument de dernière minute : chatGPT4 est payant maintenant pour 24 dollars par mois. Il y a bien un but commercial ou un risque de politique clientéliste qui renforce mon contre. Google a ouvert la voie en priorisant certaines réponses dans les recherches.

On s’est longtemps soucié de ce qui différencie l’humain de l’animal en relevant les qualités de l’intelligence humaine.

Depuis novembre 2022, les progrès fulgurants de l’intelligence artificielle que montre [i][b]ChatGPT[/b][/i] et, après quelques mois à peine, les performances atteintes actuellement par [i][b]ChatGPT4[/b][/i], interpellent les chrétiens, plus fortement que jamais, sur notre identité, sur ce qui différencie l’humain du robot.

On se contentait de comparer l’intelligence humaine à celle des animaux et, comme l’humain a une nature indivisiblement corporelle et spirituelle, il n'y avait que peu d'intérêt pour la différence qui résulte spécifiquement de notre vie spirituelle.

Personne ne peut distinguer clairement, d’une part, l’intelligence naturelle neuronale de notre cerveau terrestre que l’intelligence artificielle peut reproduire et développer dans une mesure inimaginable et, d’autre part, l’intelligence spirituelle qui la transcende.

Aujourd’hui, la technologie nous propose des performances intellectuelles exclusivement construites artificiellement et qui se démultiplient par des algorithmes dans une mesure qui menace de dépasser de plus en plus les performances de nos intelligences humaines.

À titre d’exemple et d’information pour nous aider à prendre conscience des enjeux en cause, il est éclairant d’écouter ce qu’en dit le docteur Laurent Alexandre dans une vidéo récente :
https://www.youtube.com/watch?v=QVRGu7S-yXk

Plus que jamais, de telles avancées me semblent rendre urgente la réflexion sur notre propre identité, sur notre création, sur la pertinence de l’Évangile annoncée par le Christ : «[i] Le Royaume des Cieux est tout proche[/i] ».

Les cieux c’est le monde spirituel de Dieu. Dieu a créé ensemble les cieux et la terre et notre vie spirituelle qui singularise l’humain et le différencie de toutes les autres créatures ne pourra jamais être produite par un robot.

La plus brillante intelligence artificielle ne sera jamais qu’une intelligence « [i]artificielle[/i] », terrestre, cérébrale.

L’évangile de la création enseignée par le Pape François dans son encyclique[i][b] Laudato si’ [/b][/i]nous rappelle que notre création en tant qu’humain à l’image de Dieu manifeste un saut spécifique que la Genèse nous décrit comme un souffle dans la nature physique.

N’est-il pas urgent, en présence des progrès techniques de [i]Chat GPT4[/i], de se rappeler cette réalité spirituelle de notre nature qu’une technique ne peut ni copier, ni créer ?

L’intelligence artificielle ne sera jamais que le résultat des données émanant des créatures que nous sommes et elle sera même certainement capable d’imiter l’intelligence spirituelle mieux que jamais, mais Dieu seul est la source de notre vie spirituelle et de ce qu’elle infuse dans notre intelligence humaine.

La technologie et l’intelligence artificielle pourront être demain d’excellents outils, mais ils pourraient s’imposer comme de redoutables maîtres à ceux qui croiraient pouvoir se passer de la vie spirituelle qui différencie l’humain et qui peut seule le faire vivre d’amour en harmonie avec Son créateur et toute sa création.

L’humain pourra être tenté de confier la connaissance du bien et du mal et donc ses choix à ses machines humaines, mais sa conscience ne cessera jamais de lui rappeler que le monde est créé pour être développé en harmonie d’amour avec Dieu par l’Esprit Saint et qu’à cet égard les vrais choix se font spirituellement par le cœur de l’homme vivant.

La machine n’aura jamais le dernier mot pour un humain libre conscient de la valeur prépondérante de sa vie spirituelle.

Mais, l’opposition risque d’être frontale avec ceux qui croient que l’intelligence humaine n’est que le produit de l’évolution physique et qui, demain, mépriseront comme irrationnels, déraisonnables, voir psychotiques, tous ceux qui, considérés comme incapables de répondre aux arguments extrêmement intelligents de l’intelligence artificielle, refuseront néanmoins de suivre ses conclusions pour leur propre vie et leurs propres choix, au nom d’un choix spirituel intérieur.

[quote=Romanov6 post_id=372537 time=1509303940 user_id=16441]
[b]Romanov6 écrit :[/b]
certains chercheurs affirmaient qu'aucune intelligence ne pourrait jamais venir d'un ordinateur parce que ce dernier ignore le sens des mots, leurs valeurs, leur pertinence,...
...
Alors bien entendu, les machines ne sont pas biologiques. Nos connexions neuronales (Cf. mécanisme des synapses) sont autre chose que le modèle mathématique que suit la chaîne d'instruction programmée dans un processeur, un disque dur et un réseau informatique. Mais pourtant, l'un n'a rien à envier à l'autre.[b][i] Je crois que la singularité des machines, et pas l'intelligence artificielle mais bien la conscience artificielle, le fameux "je" n'est pas un mythe, sauf pour quiconque considère sa nature comme supérieur à toute autre créature de ce monde...[/i][/b] Par contre, j'aime bien l'idée que, justement, il s'agira de l'émergence d'une autre espèce. Est ce qu'elle pourrait nous supplanter, comme pense Elon Musk ? Peut être. Mais par supplanter, pensons nous au fait qu'elle nous soit supérieur en quelques points ? Un Orque nous est bien supérieur dans l'océan, nous ne nous en formalisons pas plus. Le jaguar court plus vite que nous et peut nous dévorer si nous ne prenons pas garde à utiliser ces "augmentations" que sont les armes à projectile, est ce que nous sommes choqué par cela ?

Alors pourquoi le serait on par l'émergence d'une nouvelle espèce qui se baserait[b][i] sur des phénomènes physiques et logiques que nous avons simplement pris le temps de comprendre en observant la mécanique de l'univers [/i][/b]? Et c'est en ce sens que je vous rejoins sur le fait que ce sera une merveilleuse expérience qui nous permettrait certainement de nous connaître bien plus encore, de nous dépasser et finalement de nous rapprocher encore un peu plus de Dieu. Car soyons honnête, nous l'effleurons tous du doigt... parce que catholique, croyant et/ou assidu à l'étude. Mais je ne suis pas certain que nous soyons tout à fait proche de Lui, c'est un chemin de longue haleine et[b][i] la science, ses fruits, sont un moyen par lequel nous pouvons continuer ce chemin vers Lui[/i][/b].
Qu'en pensez vous ?[/quote]L’homme est, en effet, capable de faire émerger une intelligence nouvelle basée « [i]sur des phénomènes physiques et logiques que nous avons simplement pris le temps de comprendre en observant la mécanique de l'univers[/i] » et, par rapport à Dieu, je pense aussi que « [i]la science, ses fruits, sont un moyen par lequel nous pouvons continuer ce chemin vers Lui [/i]».

Il me semble que jamais la science et ses fruits ne sont par eux-mêmes des ennemis, ni même des obstacles à la foi. C’est ce que nous en faisons qui peut être déviant, source de mal, de souffrances, et de mort. Mais, c’est le propre de tous nos actes humains. Depuis les origines, tous nos progrès sont du linge gris dont peut sortir le pire comme le meilleur.

Mais, en ce qui concerne le meilleur, l’intelligence artificielle s’avère une occasion extraordinaire de mieux comprendre ce que nous sommes, notre double nature corporelle et spirituelle.

À cet égard, l’intelligence artificielle est basée sur des « [i]sur des phénomènes physiques et logiques[/i] » et elle ne pourra jamais en sortir même si elle va pouvoir gérer des situations imprévues et s’auto-développer, même si elle va pouvoir développer une forme de « [i]je [/i]» et même gérer correctement le sens des mots et leurs valeurs.

Le développement physique et logique des connexions n’est pas limité et, vraisemblablement, nous n’en sommes qu’aux prémisses. Que seront demain les intelligences humaines augmentées ?

Mais, c’est ici que, même dans les milieux les plus athées, chacun peut percevoir qu’il y a un réel au-delà des « [i]phénomènes physiques et logiques[/i] » et une ouverture qui peut aider à redécouvrir ce qui fait la singularité de notre humanité, ce qui nous caractérise comme êtres créés pour une vie autre.

Sur ce point, Romanov avance une conviction en écrivant : «[i] Je crois que la singularité des machines, et pas l'intelligence artificielle mais bien la conscience artificielle, le fameux "je" n'est pas un mythe, sauf pour quiconque considère sa nature comme supérieure à toute autre créature de ce monde...[/i] ».

Tout est dans ce « [i]sauf[/i] ».

L’intelligence artificielle, cela peut être un «[i] je [/i]» capable de développement singulier, d’auto-apprentissage, de maîtrise du sens des mots et mêmes de valeurs, mais ce n’est pas encore suffisant pour parler d’une « [i]conscience[/i] » artificielle « [i]pour quiconque considère sa nature comme supérieure à toute autre créature de ce monde[/i] ».

Certes, il ne s’agit pas ici de discuter de supériorité dans la nature terrestre. Bien des animaux nous sont supérieurs de certains points de vue comme Romanov le relève.

Mais, par contre, la foi nous fait percevoir une « [i]supériorité[/i] » en ce que nous avons une double nature terrestre et spirituelle qui nous ouvre une possibilité de relation personnelle avec un au-delà de nous-mêmes.

Nous croyons que nous sommes des personnes créées capables de relation consciente et d’amour avec le Créateur, capables de partager une vie qui n’est pas que terrestre et au-delà même des limites terrestres (y compris la limite principale de la mort), une vie qui n’est pas que « [i]physique et logique[/i] » ce qui est le propre des ordinateurs et de leur intelligence artificielle mais ce qui limite aussi tout autre vivant terrestre qui, au bout de son processus « [i]physique et logique[/i] » cesse d’exister.

L’intelligence artificielle ne va-t-il pas nous aider à redécouvrir la réalité de cet au-delà de nous-mêmes, de notre singularité « [i]supérieure à toute autre créature de ce monde[/i] », ce qui ne se situe pas sur le plan limité de la nature terrestre ?

Sur ce point, j’ai lu avec intérêt une réflexion publiée dans un journal belge par Alexandre Mpasinas, un chercheur de l’ULB (une université fondée sur le libre-examen athée) dont le titre (dans la version écrite) m’a accroché par sa pertinence : "[i][b]L’intelligence artificielle pour mieux se connecter à notre humanité[/b][/i]".
https://www.lalibre.be/economie/eco-debats/intelligence-artificielle-le-nouveau-manager-sera-adaptable-flexible-et-pret-a-se-reinventer-5acf21d6cd709bfa6b51d647

J’en retiens surtout cet extrait : «[i] [b]Les machines seront capables[/b], dans un avenir proche, de proposer les solutions les plus adaptées à une requête précise, un incident, un problème, en s’appuyant [b]sur la connaissance[/b] détaillée des événements [b]du passé[/b]…
Cette révolution nous oblige à réinventer notre société, en nous forçant à [b]réfléchir à ce qui fait notre singularité d’être humain[/b], c’est-à-dire notre humanité. Même si les machines peuvent prendre des décisions sur la base d’exaoctets (1 milliard de milliards) d’informations, nous serons toujours capables de prendre des décisions en nous basant sur [b]notre intuition et notre instinct[/b].
Ce « pressentiment », ce « rien », ce « complètement infondé », comme le disait le psychiatre Carl Gustav Jung, [b]nous permet de lire « par-delà les choses »[/b]. [b][u]C’est ce « rien » qu’il va nous falloir désormais réinvestir pour cohabiter avec ces machines[/u][/b] évoluées sans nous faire cannibaliser par elles. L’homme augmenté de demain n’est pas celui qui utilise au mieux les nouvelles technologies afin de [b]raisonner[/b] et prendre des décisions plus [b]rapidement[/b] mais bien celui qui avance en restant connecté à son humanité. [/i]»

Il va falloir redécouvrir que le cerveau (qui raisonne sur des connaissances acquises passées) n’est pas un accès à « [b][i][u]tout [/u][/i][/b]». Il ne peut que raisonner et il ne peut que raisonner les informations qu’il a reçues. L’humain perçoit, outre ce que son cerveau raisonne, un au-delà des raisonnements aussi convaincants soient-ils.

Demain, lorsque la machine la plus performante et avec les raisonnements les plus exacts lui dira d'aller d'un côté, l'humain pourra encore choisir et préférer d'aller d'un autre côté, en suivant une voix intérieure. N'est-ce pas cela la singularité et la liberté de notre humanité, ce qui lui permet d'aimer un « [i]autre[/i] » ?

Ne faut-il pas redécouvrir que nous avons et que nous sommes un « [i][b]esprit[/b][/i] » qui nous ouvre à un au-delà de nous-mêmes et pas seulement un « [b][i]corps[/i][/b] » même si notre cerveau corporel nous fait disposer d’une très belle intelligence et d’une très belle sensibilité ?

Je n'ai pas tout lu les posts ci-dessus mais le sujet est intéressant et puis très à la mode. J'ai remarqué qu'il y avait pas mal de débats à ce sujet depuis quelques temps. Alors j'ai lu. Un peu. Juste un peu. Mais j'ai compris l'importance de ces débats. Et quoi que l'on en pense il semble évident que c'est un sujet qui devient de plus en plus crucial à aborder. Évidemment par les différents acteurs et spécialistes de la question. Que je ne suis pas.
Mais j'y vois deux courants opposés ([i]en résumant très grossièrement[/i]) :

1) Ceux qui ne s’inquiètent pas et même qui pensent que c'est une évolution nécessaire. L'idée d'implants implantés à l'être humain un jour. Implants qui lui permettront peut-être d'augmenter son intelligence et même son espérance de vie...
Au final, ils parlent d'une collaboration positive entre la machine et l'homme. Pas inintéressant.

2) Ceux qui s’inquiètent. Et qui essayent d'anticiper sur l'avenir... Qui apportent une réflexion sur les questions éthiques. Et même philosophiques... Pas inintéressant non plus.

Les deux courants présentent des arguments intéressants. Et encore une fois c'est surtout le débat qui semble utile et nécessaire.

L'argument qui m'a fait le plus réfléchir est le suivant. Un jour les ordinateurs, l'intelligence artificielle, seront tellement efficaces qu'ils pourront probablement se mettre à jour eux-mêmes. Ils pourront sans doute un jour s'[i]upgrader[/i] eux-mêmes. Ils pourront peut-être se reprogrammer seuls. Corriger, par exemple, leur code source à notre place. C'est à dire qu'ils pourront s'améliorer sans nous. Et puis d'ailleurs comment pouvoir améliorer efficacement et utilement quelque-chose qui nous dépasse ? Dans ce cas là, on ne maitrisera plus rien. On ne sait même plus si c'est bien ou pas. Alors. Pourquoi ne pas faire confiance à cette intelligence qui nous surpasse ? Ou simplement qui serait plus efficace ? Mais cela peut aussi très vite nous échapper.
L'idée serait donc de mettre des garde-fous. Mais lesquels ? Et comment ?
D'autres répondront qu'il ne faut pas s'inquiéter et que tout ceci n'est qu'une vision alarmiste du sujet.

Dans tous les cas, la communauté scientifique semble se poser toutes ces bonnes questions avec des comités éthiques, des cercles philosophiques... C'est ça qui est rassurant.

Une petite réflexion. Je ne sais pas si elle vous intéressera.

La machine raisonne par opérations logiques et combinaisons. À proprement parler elle n'est pas "intelligente" car l'intelligence s'attache au "sens", et le formule ensuite par la raison en respectant les règles de la logique. L'intelligence artificielle devrait être appelée la raison artificielle. La lumière du Christ illumine l'intelligence qui en retour fait "réflexion". On dit que la raison est heteronome car recevant sa nourriture de l'intelligence. Mais la raison par négation de la lumière revendique l'autonomie, et "les lumières" des sciences seulement humaines de l'athéisme se substituent à la lumière du Christ.

Voici un exemple de substitution d'un mot par un autre et aboutissant à la reduction de l'intelligence à la seule raison. La raison devient toute l'intelligence.

Mais il y a pire:

L'apprentissage actuel de la lecture aux enfants par la méthode syllabique substitue celle du son à celle du sens. L'enfant ne doit plus reconnaître le sens mais le son. Par là, on empêche le jeu de son intelligence pour le réduire à un jeu d'associations, celui d'une machine.

Le but de cette destruction de l'intelligence est de réduire l'humain non plus à comprendre le sens (et à appauvrir son champs lexical) mais à réagir à des stimuli et des combinaisons rationnelles de plus en plus complexes: le réduire à une machine. C'est-à-dire dire devenant alors capables de réagir à des maîtres machines. On le voit déjà par la subordination de l'employé à l'ordinateur. L'homme ne devient plus qu'un opérateur de machines. Un "serviteur".

[quote=antoine75 post_id=388639 time=1538907480 user_id=9515][b]antoine75[/b] :

Si on leur apprend par exemple d'être toujours plus robuste et plus fiable, ces machines pourraient adopter une stratégie qui exclurait toute intervention humaine …
[/quote]
Les machines sont programmées. Elles sont dépourvues de libre arbitre.

Je viens d'apprendre qu'il y avait un système appelé "réseau de neurones" qui permet d'apprendre, pour les machines, à partir de données expérimentales. Mais je vois un danger. Si on leur apprend par exemple d'être toujours plus robuste et plus fiable, ces machines pourraient adopter une stratégie qui exclurait toute intervention humaine, car porteuse d'erreur potentielle (l'erreur est humaine), et pourraient même aller jusqu'à éliminer l'homme pour l'empêcher d'intervenir sur leur pérennité. Ca rejoint des thèmes de science-fiction et pourtant il semble que nous soyons aux portes des plus terribles prédictions si nous n'y prenons pas garde.

Oui, les ordinateurs vont probablement raisonner beaucoup mieux que nous.

Mais, l’humain ne va-t-il pas découvrir plus nettement qu’il veut un plus, un au-delà de la seule raison ? Ne va-t-il pas découvrir de manière renouvelée que son cœur ne se limite pas aux seules productions de la raison, même démultipliées avec une quasi « perfection », que l’essentiel est au-delà, que le réel ne se limite pas à ce que les machines peuvent produire ?