Intelligence artificielle (IA), le pour et le contre

Informatique - NTIC - Web 2.0 - Robotique - Mathématiques - Bioéthique
p.cristian
Rector provinciæ
Rector provinciæ
Messages : 436
Inscription : mar. 28 mai 2013, 2:17

Intelligence artificielle (IA), le pour et le contre

Message non lu par p.cristian » ven. 09 déc. 2016, 1:54

Raistlin a écrit :
p.cristian a écrit :Vous avez sans doute raison, l'ordinateur qui fera de la métaphysique n'existe peut-être pas encore, mais peut-être simplement parce qu'il n'y a pas d'intérêt économique à le faire.
Non, je pense que l’impossibilité se situe ailleurs. C’est un problème qualitatif : de la matière inerte à l’esprit humain, il y a un saut qualitatif inexplicable par le physicalisme (idéologie qui croit que tout découlerait des propriétés de la matière). Car dans notre Univers, le fait est qu’une propriété n’émerge pas de rien, et que les propriétés émergentes ou déduites restent toujours dans le même genre : d’une propriété mathématique vous pouvez en inférer une propriété mathématique, mais vous ne pouvez pas en inférer une propriété d'un autre ordre (physique, biologique, métaphysique, etc.). Il n’y a conceptuellement et essentiellement rien de plus dans les propriétés émergentes que ce qu’il y avait déjà dans les propriétés d’où elles émergent. C’est là où l’on voit qu’il est impossible d’expliquer l’émergence de l’intelligence par le physicalisme. Ce serait tout simplement attribuer à la matière des pouvoirs cachés. C’est de la magie à l’état pur. En tout cas, ce n’est absolument pas scientifique, même si ça veut en avoir l’air (car si c’était scientifique, l’on rendrait compte des propriétés matérielles d’où émergent l’esprit humain et on montrerait la chaîne déductive).
Et c’est pourquoi aucune machine – si complexe soit-elle – ne pourra jamais voir émerger une conscience, intelligence, etc.
Cordialement,
Sur l'émergence de propriété supérieures qualitativement, les automates cellulaires, sont la preuve qu'on peut créer de la complexité à partir de règles simples.

Il n'y a pas de «preuve» de l'émergence du l'intelligence par le physicalisme.
Mais il faut noter que parmi les différentes raisons qui expliquent les progrès récents en intelligence artificielle, il y a les progrès des neurosciences. Le deep-learning qui a tellement révolutionné l'IA, se base sur l'architecture du cerveau. Si chaque jour un peu plus on pourra considérer nos machines comme capable de développer une intelligence, n'est pas la preuve matérialiste, qu'une intelligence peut émerger d'une construction physique (et humaine en l'occurence)?

Enfin, un discours, fut-il métaphysique, existe aussi grâce à la matière, qu'il soit prononcé, écrit à l'encre sur du papier, digitalisé dans les circuits d'une unité de stockage.
Si un jour, un ordinateur produisait des raisonnements métaphysiques, vous ne pourrez pas distinguer sa production de celle d'un théologien.

Cela me fait penser à l'expérience de la téléportation. Si on était capable de vous détruire à un endroit, pour vous reconstruire atome par atome à un autre, l'être fonctionnel qui en sortirait aurait-il les même qualités que l'être d'origine? Où aurait-il perdu quelque chose (genre une âme)? Si oui est-ce détectable et comment?
N.B. le P. de mon pseudo ne veut pas dire "père".

Tout ce que vous voudriez que les hommes fassent pour vous, vous aussi, faites-le de même pour eux, car c'est ce qu'enseignent la loi et les prophètes.

Avatar de l’utilisateur
Christophe67
Barbarus
Barbarus

Intelligence artificielle (IA), le pour et le contre

Message non lu par Christophe67 » sam. 10 déc. 2016, 23:03

p.christian a écrit :L'intelligence artificielle d'IBM Watson est déjà capable de donner des conseils à des médecins oncologues : http://www.ibm.com/watson/health/oncology/
Bonsoir,


On peut s'émerveiller devant l'IA mais ce que vous avancez est exact : l'ordinateur est bête.

L'ordinateur qui conseille des oncologues n'est jamais qu'un ordinateur qui va "raisonner" en consultant une grosse base de données permettant de synthétiser, ou d'analyser une somme considérable d'informations (données au préalable par l'homme). Devant cette masse d'informations il va proposer un "diagnostique" selon le/les cas les plus approchants figurant dans cette base de données.
Coupez l'accès de cet ordinateur à l'information, et il sera bien incapable de proposer quoi que ce soit de pertinent à un oncologue.

En gros la machine ne sait qu'interpréter ce qu'on lui enseigne ou l'information dont elle dispose, La machine est si stupide qu'elle reproduit sans état d'âme toute erreur forcément humaine à la base.
J'en veux votre exemple du copié-collé que vous proposez (pour une meilleure compréhension de tous je vais remplacer les brackets "[" et "]" par des parenthèses:

(quote)(/quote)(quote)(/quote) donnent le résultat que vous proposez en citation : (/quote)(quote)
(Je pense néanmoins qu'entre deux balises CODE vous avez inversé les balises QUOTE , mais je continuerai sur l'exemple au-dessus car il m'amuse).

Dans l'utilisation du BBCode c'est tout à fait logique, on place deux balises ouvertes et fermées côte à côte, mais au final cela nous donne un illogisme : un "quote" contenant un "non quote" si je puis m'exprimer ainsi. Hors ce résultat prouve l'interprétation scrupuleuse (mais néanmoins très bête de la machine) en proposant des balises inversées, contraires à la règle fixée par le BBCode. Ainsi tout texte placé entre ces deux balises ne produira jamais un "quote" réglementaire.

L'ordinateur ne sait l'interpréter, il exécute bêtement et simplement (mais justement) ce que vous lui avez demandé de faire et donne un résultat juste pour lui, mais illogique pour moi. Mais l'erreur vient de vous au final que ce soit volontaire (les 4 quote) ou involontaire ( Code + quote inversés).
Aussi si l'ordinateur exécute avec un tel scrupule des données qui produiront un résultat faux, peut on parler d'intelligence ? Y'a t'il une inquiétude quelconque à avoir de ces machines qui même dans les versions les plus élaborées ne feront que traiter de l'information, des algorithmes, des logarithmes etc.. etc ... Même avec un ordinateur quantique il suffira que l'information soit fausse, ou même une partie, pour que la machine arrive à un résultat faux quelle que soit sa puissance de calcul.
La machine est elle fautive pour autant ? Je ne le pense pas, car elle a interprété ce qu'on lui a appris. La carence vient du développeur du forum dans le traitement du BBCode; car il n'a pas pris la peine d'inclure - dans son code PHP - une routine de vérification de l'état ouvert puis fermé d'une balise avant de la reproduire à nouveau; ou de vérifier si cet état n'était pas inversé.

La machine est un très bon soldat et très rapide pour traiter des données volumineuses, en dehors de cela rien de transcendantal. Et même si nous extrapolons, si elle était capable un jour d'avoir une certaine conscience, elle n'aurait jamais que celle que "son créateur" aura voulu lui donner, mais pas la sienne propre. Nous conservons l'avantage semblerait il ;)

Le risque dans tout cela ? Tellement émerveillé par l'IA que je lui confie tout, ma vie même. Je délègue les tâches ingrates, je lui laisse gérer ce qui a peu d'intérêt pour moi et un jour ... pouf ! Une éruption solaire, une onde électro magnétique puissante, une pénurie d'énergie et adieu mon compagnon électronique. Et comme je lui avais confié les tâches que je ne souhaitais plus accomplir, me voilà propulsé de l'ère de l'IA à celle de Cro-Magnon. Probablement moins encore, car je ne sais plus chasser, je ne sais plus cultiver, je ne sais plus me soigner par les plantes, je ne sais plus l'essentiel et surtout j'ai oublié tout ce qui était nécessaire à ma survie ....

Vous avez raison également en disant qu'il faut prouver que nous sommes plus malin que la machine ... en ne nous reposant pas sur elle, en ne lui accordant pas une confiance démesurée.
Terrassés par notre "création" (bien que nous nous ne créons rien mais ne faisons que réarranger la matière déjà créée), voilà bien qui nous prouvera que nous ne sommes pas à l'égale de Dieu.

Pour ma part, cette réflexion me ramène à la tour de Babel et m'invite à plus d'humilité envers notre Créateur.


Cordialement.

p.cristian
Rector provinciæ
Rector provinciæ
Messages : 436
Inscription : mar. 28 mai 2013, 2:17

Intelligence artificielle (IA), le pour et le contre

Message non lu par p.cristian » lun. 12 déc. 2016, 1:19

Christophe67 a écrit :
p.cristian a écrit :L'intelligence artificielle d'IBM Watson est déjà capable de donner des conseils à des médecins oncologues : http://www.ibm.com/watson/health/oncology/
Bonsoir,

On peut s'émerveiller devant l'IA mais ce que vous avancez est exact : l'ordinateur est bête.

L'ordinateur qui conseille des oncologues n'est jamais qu'un ordinateur qui va "raisonner" en consultant une grosse base de données permettant de synthétiser, ou d'analyser une somme considérable d'informations (données au préalable par l'homme). Devant cette masse d'informations il va proposer un "diagnostique" selon le/les cas les plus approchants figurant dans cette base de données.
Coupez l'accès de cet ordinateur à l'information, et il sera bien incapable de proposer quoi que ce soit de pertinent à un oncologue.
Argument spécieux : si vous ne donniez pas accès à une partie de son cerveau au médecin, il ne vaudrait guère mieux. De même la machine serait mal au point si le moindre des composants était déréglé.
Christophe67 a écrit : J'en veux votre exemple du copié-collé que vous proposez (pour une meilleure compréhension de tous je vais remplacer les brackets "[" et "]" par des parenthèses:

(quote)(/quote)(quote)(/quote) donnent le résultat que vous proposez en citation : (/quote)(quote)
(Je pense néanmoins qu'entre deux balises CODE vous avez inversé les balises QUOTE , mais je continuerai sur l'exemple au-dessus car il m'amuse).
Soit dit en passant, je n'ai pas fait d'inversion, mon copier-coller me permet d'insérer mes commentaires, au milieu d'une citation, car il la ferme en l'ouvrant par la suite...
Christophe67 a écrit : La machine est un très bon soldat et très rapide pour traiter des données volumineuses, en dehors de cela rien de transcendantal. Et même si nous extrapolons, si elle était capable un jour d'avoir une certaine conscience, elle n'aurait jamais que celle que "son créateur" aura voulu lui donner, mais pas la sienne propre. Nous conservons l'avantage semblerait il ;)
Oui dans ce cas d'utilisation-là. La machine est une machine.
Et lorsqu'elle imite nos raisonnements au point d'en être troublant, sur la base d'algorithme très inspiré de notre cablage d'humain, elle reste une machine. C'est pour cela que je disais à un moment, douter de notre intelligence.
http://xkcd.lapin.org/index.php?number=329
Christophe67 a écrit : Le risque dans tout cela ? Tellement émerveillé par l'IA que je lui confie tout, ma vie même. Je délègue les tâches ingrates, je lui laisse gérer ce qui a peu d'intérêt pour moi et un jour ... pouf ! Une éruption solaire, une onde électro magnétique puissante, une pénurie d'énergie et adieu mon compagnon électronique. Et comme je lui avais confié les tâches que je ne souhaitais plus accomplir, me voilà propulsé de l'ère de l'IA à celle de Cro-Magnon. Probablement moins encore, car je ne sais plus chasser, je ne sais plus cultiver, je ne sais plus me soigner par les plantes, je ne sais plus l'essentiel et surtout j'ai oublié tout ce qui était nécessaire à ma survie ....
Cela me fait penser à Socrate qui critiquait l'écriture car elle tuerait la mémoire.
C'est à la fois la force et le drame d'une société industrialisée hautement spécialisée comme la nôtre.
Vous avez déjà accès à tout le confort, sans pour autant être à la fois un spécialiste de l'agronomie, de la mécanique, de la chimie, de la médecine, ou de l'informatique.
L'intelligence artificielle ne change pas radicalement notre incapacité à pouvoir survivre sans la société qui nous porte.
Nous le sommes déjà plus.
N.B. le P. de mon pseudo ne veut pas dire "père".

Tout ce que vous voudriez que les hommes fassent pour vous, vous aussi, faites-le de même pour eux, car c'est ce qu'enseignent la loi et les prophètes.

Avatar de l’utilisateur
Xavi
Prætor
Prætor
Messages : 2198
Inscription : mar. 28 juil. 2009, 14:50

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Xavi » sam. 21 oct. 2017, 16:40

Pour ceux qui perçoivent encore difficilement l’importance du sujet, il est utile d’écouter les récents propos du président Poutine : « L’intelligence artificielle est l’avenir non seulement de la Russie, mais de toute l’humanité. Les possibilités sont colossales et les menaces sont difficiles à pronostiquer aujourd’hui. Celui qui deviendra le leader dans ce domaine sera le maître du monde…, mais pour ne pas être les derniers en ligne, il faut commencer à y travailler dès aujourd’hui » :
https://www.youtube.com/watch?v=KJNvRKHmrlI

Le tsunami de l’intelligence artificielle qui s’annonce ne peut que concerner aussi l’intelligence de la foi.

Déjà dans les prémisses actuelles de l’intelligence artificielle, on peut discerner l’importance de l’extraordinaire augmentation des connaissances disponibles. Pensons, par exemple, à l’interprétation de l’Ecriture Sainte en ce qu’elle se recherche, notamment, dans la culture et les modes d’expression de ses auteurs : ne faut-il pas s’attendre à voir se développer sur internet un tsunami de découvertes et d'analyses archéologiques et anthropologiques qui augmentera sensiblement les informations disponibles pour mieux comprendre un texte comme celui de La Genèse dans son contexte historique ?

La recherche théologique elle-même ne va-t-elle pas être développée et affinée par les progrès de l’intelligence artificielle ? Non pas nécessairement pour contredire la foi comme certains pourraient le craindre, mais pour en dégager de nouveaux aspects.

Ne faudra-t-il pas affiner davantage notre définition de l’homme face aux perspectives trans-humanistes pour pouvoir baliser correctement nos limites par rapport aux nouveautés qui pourraient surgir de toutes parts ?

Comment aborder la prétention de certains à un quasi pouvoir créateur divin (démiurgique) qui se manifeste ?

Sommes-nous devant l’émergence d’une nouvelle tour de Babel avec un nouveau langage universel de communication (le langage informatique, y compris l’intelligence artificielle ou l’internet) ?

Les questions que posent les perspectives de l’intelligence artificielle sont profondes, voire vertigineuses.

Par exemple, le docteur Laurent Alexandre, chirurgien urologue fondateur du site Doctissimo, interpelle vivement par sa réflexion sur les progrès de l’intelligence artificielle, dans diverses vidéos récentes sur Youtube.

Ses propos, même s’ils sont loin d’être tous convaincants ou parfois très excessifs, ne peuvent pas être ignorés.

Que penser, par exemple, de ces quelques extraits d’une video de Youtube intitulée « L’éthique de l’intelligence » ? :
https://www.youtube.com/watch?v=o3WOPKNvbt8
20.22 : « Un séquençage d’ADN c’est vingt mille milliards d’informations, d’octets par seconde. Il est clair qu’un cerveau biologique ne peut pas traiter ça et ne peut pas transférer ces informations à ce niveau là. Notre débit de sortie est de dix octets par la voix et quant on tape à la machine. Dix octets contre déjà ... mille milliards d’octets pour les ordinateurs. Le décalage est terrible. L’information circule dans nos neurones à un mètre par seconde, l’information circule dans les micro-processeurs à un tout petit peu moins de la vitesse de la lumière : trois cent mille kilomètres à la seconde. »

18.40 : « Les trans-humanistes de la Silicon Valley ont des ambitions démiurgiques... Le plus emblématique de ces changements c’est bien la volonté de Google d’euthanasier la mort »

24.10 : « Elon Musk a annoncé le lancement de Neuralink dont l’objectif… est de mettre autour de nos 83 milliards de neurones des circuits intégrés miniatures pour augmenter notre quotient intellectuel et nous rendre compétitifs face à l’intelligence artificielle »

25.04 : « Facebook a développé … une technologie de télépathie … qui va permettre de taper, de transférer un message d’homme à ordinateur et d’homme à homme, par la pensée, à la vitesse de cent mots par minute »

38.05 : « Je vous rappelle la phrase de Sergei Brin : « Nous allons faire des machines qui raisonnent, pensent et font les choses mieux que ce que les humains sont capables »

38.25 : « Avec de l’i-tech, des procédés technologiques variés, les neuro-sciences, ce qu’envisage Elon Musk, ça va poser mille problèmes éthiques. Il faudra des éthiciens à l’école. Cela va pas être simple de savoir comment on paramètre les implants intra-cérébraux qu’on va mettre chez un gamin »

38.52 : « 13 % des parents seraient prêts à utiliser des techniques d’augmentation génétique in utero pour avoir un bébé plus intelligent en France et 50 % en Chine côtière »

41.44 : « Nous allons co-évoluer avec les différentes formes d’intelligence artificielle que nous allons créer puis qui vont se créer toutes seules dans un deuxième temps »

42.15 : « Picq, le fameux paléontologue, dans son dernier livre, explique que pour mieux comprendre les différences entre nous et l’I.A., ce serait pas mal de comprendre les différences d’intelligence qu’il y a entre les animaux et nous. C’est une façon de lever le voile sur des formes d’intelligence différentes de la nôtre. Et d’autre part, Church, le patron de la génétique à Harvard, l’un des plus grands généticiens au monde, a un projet pour recréer Néanderthal. Nous pourrions être dans un monde demain où nous aurions différents types d’intelligences humaines, upgradées ou pas upgradées, plein de formes d’intelligences artificielles, plus ou moins interfacées avec l’intelligence humaine, des animaux augmentés. On a déjà fait des manipulations génétiques et des modifications génétiques sur la souris pour augmenter le Q.I. des souris et ça marche déjà pas mal. »

43.49 : « la troisième religion sera celle de l’homme dieu. Nous allons avoir des pouvoirs quasi divins. Les religieux et conservateurs vont s’en plaindre. Les trans-humanistes sont en transes de joie »

48.26 : « C’est ce que disait Musk il y a quelques jours. Il disait nous allons vers une fusion de plus en plus proche entre le silicium et les neurones jusqu’à ne faire plus qu’un… Il faut que nous nous battions contre ce cauchemar neuro-technologique »

52.08 : « Nous devons défendre notre autonomie, nous devons pouvoir sortir de la matrice. Bien sûr, nous allons vers des phases d’imbrication, d’entrelacement entre le silicium et le neurone, mais il faut pouvoir sortir, garder une autonomie. Il faut pouvoir sortir de l’autoroute et aller sur un chemin vicinal. »
Déjà maintenant, mais plus encore demain, l’intelligence artificielle va profondément interpeller tout homme sur ce qu’est un homme, sur ce qu’est son intelligence spécifique, ce qui ne peut que concerner profondément les chrétiens par rapport à ce que nous croyons être un homme créé à l’image de Dieu, par rapport à sa vocation.

Nous ignorons les limites des capacités du cerveau humain et de leurs développements futurs. Mais, cela rend plus important que jamais de comprendre ce que fut, dans la réalité historique, notre création par un souffle créateur spirituel de Dieu dans un corps de chair, que nous savons aujourd’hui être issu de l’évolution. Ce souffle spirituel divin dans un corps matériel (y compris un cerveau matériel) a créé l’âme humaine avec une double nature terrestre et spirituelle.

En ce qu’elle est d’origine divine, la vie spirituelle est hors de portée de l’intelligence artificielle. Jamais une évolution terrestre n’a produit une vie spirituelle immortelle. L’immortalité dont rêvent certains trans-humanistes, n’est et ne peut être qu’un rêve de perpétuation de notre réalité terrestre.

Ne nous laissons pas emporter par les excès de langage qui parlent de développements de l’esprit et de la conscience dans une perspective terrestre qui ne renvoient à rien d’autre qu’à du terrestre, en ignorant la réalité spirituelle de l’humain.

Nous pouvons nous effrayer de l’immensité des progrès de l’informatique comme d’autres ont pu s’effrayer en découvrant l’immensité de l’univers.

Mais, en réalité, ne faudrait-il pas observer d’abord que, dans l’histoire, l’invention de l’écriture fut une révolution encore plus fondamentale pour le développement du cerveau humain ?

Le proto-langage des hominidés préhumains ne se différenciait que peu de celui de certains grands singes.

Avant l’invention de l’écriture dans le pays sumérien d’Abraham, en Basse Mésopotamie, le langage était limité à des communications entre personnes présentes au même endroit et en même temps. Chacun ne pouvait réfléchir qu’en lui-même avec les seules données mentales qu’il pouvait saisir en lui-même.

Le premier texte écrit sur une tablette d’argile sumérienne, c’était, en fait, un premier « disque dur externe » déchargeant la mémoire vive, la mémoire de travail de l’écrivain, en fixant des pensées de manière séparée dans un support matériel extérieur à lui.

L’utilisation d’une mémoire externe pour élaborer du neuf par du lien entre, d'une part, des données mémorisées en dehors de soi et, d'autre part, des réflexions en soi, ouvre l’intelligence à pouvoir créer de l’inconnu, à entrer en relation avec du « autre » qu’elle-même. Ce n’est pas une invention de l’informatique, c’est le propre d’une écriture.

Cette mise à distance externe a permis de délivrer la parole de son enfermement dans le temps et l’espace. En effet, le langage oral n’est entendu que par celui qui est présent au moment et à l’endroit de la parole. L’écrit, au contraire, peut persister dans le temps et peut être déplacé dans l’espace. Il peut s’accumuler et se combiner avec d’autres dans le temps. Ce fut une révolution pour l’intelligence, la communication et le partage. Par une écriture de la parole sur un support matériel, ne faut-il pas constater, avec un écho spirituel étonnant, qu'ainsi, la parole humaine s’est faite chair ?

L’animal peut reproduire du connu, voire même faire du nouveau en présence d’un besoin inconnu ou de stimulation nouvelle, mais, en l’absence de besoin à satisfaire ou de stimulation nouvelle dans le présent, il ne peut créer du nouveau, car il ne sort pas de lui-même.

Il n’a pas seulement une existence précaire, mais sa pensée, son action et son langage, restent limités à lui-même. L’autre n’est perçu et pris en compte que par rapport à lui-même.

Dans la nature terrestre, la singularité de l’humain, n’est-ce pas sa capacité d’externaliser sa pensée, de pouvoir la mettre en dehors de lui-même et devant lui-même, de pouvoir penser sa propre pensée ? L’écriture fut le premier moyen technique ayant permis à l’homme d’extraire sa pensée de son corps pour en faire une réalité externe qu’il puisse lui-même réfléchir, mais aussi une réalité externe qu’il puisse partager avec d’autres, un moyen essentiel de communication et de communion avec d’autres.

L’intelligence artificielle d’un ordinateur ne fait que prolonger, d’une manière certes nouvelle et exponentielle, l’intelligence que l’homme a pu tirer de l’écriture et de la lecture.

Nous ne pourrons éviter de devoir nous adapter à cette intelligence artificielle, ni à l’étendue extraordinaire de ses progrès, mais d’abord en n’oubliant pas qu’en réalité, elle n’est rien d’autre qu’une nouvelle « écriture », une technologie permettant à l’humain de réfléchir et de participer à une pensée présentée en dehors de lui et devant lui, avec des moyens démultipliés.

Avatar de l’utilisateur
Romanov6
Ædilis
Ædilis
Messages : 13
Inscription : dim. 29 oct. 2017, 17:22
Conviction : Catholique romain
Localisation : Paris

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Romanov6 » dim. 29 oct. 2017, 21:05

Nous ne pourrons éviter de devoir nous adapter à cette intelligence artificielle, ni à l’étendue extraordinaire de ses progrès, mais d’abord en n’oubliant pas qu’en réalité, elle n’est rien d’autre qu’une nouvelle « écriture », une technologie permettant à l’humain de réfléchir et de participer à une pensée présentée en dehors de lui et devant lui, avec des moyens démultipliés.
Très bonne synthèse et merci pour cet apport ! En lisant les différents propos, surtout ceux de 2009, je me demandais où allait en venir la discussion. Travaillant pour ma part sur l'élaboration de ces technologies pour le compte de clients divers, privés ou publics, et étant particulière ravi que la société française, pétrie de ses qualités humanistes et de ses racines chrétiennes, s'emparent ENFIN de ce sujet ! Il était temps ! D'autant plus qu'effectivement les notions de deep learning nous ont amené, aux architectes informatiques, une façon de penser empirique tout à fait novatrice. Et c'est sur cette base que j'aimerais proposer une nuance à votre propos, évoquant la base du mot, de l'écriture. Voyez vous, après avoir lu un article datant du début des années 1980, avant la sortie du langage C++ et les prémices de la programmation orientée objet, certains chercheurs affirmaient qu'aucune intelligence ne pourrait jamais venir d'un ordinateur parce que ce dernier ignore le sens des mots, leurs valeurs, leur pertinence, tout autant qu'il ignore la dénomination d'un objet, une tasse par exemple, qu'il ne serait même pas en mesure de comprendre en tant qu'objet.

Depuis, les organisations ontologiques exploitant très simplement les graphes pour relier des notions entre elle et les pondérer avec un simple ratio... permet de constituer un champ lexical tout aussi logiquement que le ferait un enfant de 6 ans. La constitution de ces objets mathématiques (algorithmiques serait plus exact puisqu'ils ne sont pas arrêtés dans le temps mais mouvant grâce/à cause de l'unité de traitement) permet de sortir de la notion de langage et bien d'entrer dans l'extrapolation. Fini le principe de la base de données pleine ! Nous entrons dans l'ère de la donnée éphémère, changeante mais devant être contextualisée. Et cette aptitude à contextualiser est ce qu'apprend tout simplement un enfant.

Alors bien entendu, les machines ne sont pas biologiques. Nos connexions neuronales (Cf. mécanisme des synapses) sont autre chose que le modèle mathématique que suit la chaîne d'instruction programmée dans un processeur, un disque dur et un réseau informatique. Mais pourtant, l'un n'a rien à envier à l'autre. Je crois que la singularité des machines, et pas l'intelligence artificielle mais bien la conscience artificielle, le fameux "je" n'est pas un mythe, sauf pour quiconque considère sa nature comme supérieur à toute autre créature de ce monde... Par contre, j'aime bien l'idée que, justement, il s'agira de l'émergence d'une autre espèce. Est ce qu'elle pourrait nous supplanter, comme pense Elon Musk ? Peut être. Mais par supplanter, pensons nous au fait qu'elle nous soit supérieur en quelques points ? Un Orque nous est bien supérieur dans l'océan, nous ne nous en formalisons pas plus. Le jaguar court plus vite que nous et peut nous dévorer si nous ne prenons pas garde à utiliser ces "augmentations" que sont les armes à projectile, est ce que nous sommes choqué par cela ?

Alors pourquoi le serait on par l'émergence d'une nouvelle espèce qui se baserait sur des phénomènes physiques et logiques que nous avons simplement pris le temps de comprendre en observant la mécanique de l'univers ? Et c'est en ce sens que je vous rejoins sur le fait que ce sera une merveilleuse expérience qui nous permettrait certainement de nous connaître bien plus encore, de nous dépasser et finalement de nous rapprocher encore un peu plus de Dieu. Car soyons honnête, nous l'effleurons tous du doigt... parce que catholique, croyant et/ou assidu à l'étude. Mais je ne suis pas certain que nous soyons tout à fait proche de Lui, c'est un chemin de longue haleine et la science, ses fruits, sont un moyen par lequel nous pouvons continuer ce chemin vers Lui.
Qu'en pensez vous ?

Bonne soirée
--
“Toute technologie suffisamment avancée est indiscernable de la magie.“
Troisième loi d’Arthur C. Clarke

Avatar de l’utilisateur
JCNDA
Quæstor
Quæstor
Messages : 351
Inscription : lun. 15 mai 2017, 17:43
Conviction : baptisé
Localisation : Loiret

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par JCNDA » dim. 29 oct. 2017, 23:46

Xavi a écrit :
sam. 21 oct. 2017, 16:40
L’intelligence artificielle d’un ordinateur ne fait que prolonger, d’une manière certes nouvelle et exponentielle, l’intelligence que l’homme a pu tirer de l’écriture et de la lecture.
Bonsoir,

L'homme observera de manière différente les résultats effectués par cette intelligence d'analyses. Un travail fastidieux qu'il vaut mieux déléguer aux processeurs/calculateurs.
"Car Yahweh connait la voie du juste, mais la voie des pécheurs mène à la ruine."
L’abbé Augustin Crampon

Avatar de l’utilisateur
Xavi
Prætor
Prætor
Messages : 2198
Inscription : mar. 28 juil. 2009, 14:50

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Xavi » lun. 30 oct. 2017, 11:11

Oui, les ordinateurs vont probablement raisonner beaucoup mieux que nous.

Mais, l’humain ne va-t-il pas découvrir plus nettement qu’il veut un plus, un au-delà de la seule raison ? Ne va-t-il pas découvrir de manière renouvelée que son cœur ne se limite pas aux seules productions de la raison, même démultipliées avec une quasi « perfection », que l’essentiel est au-delà, que le réel ne se limite pas à ce que les machines peuvent produire ?

Avatar de l’utilisateur
antoine75
Barbarus
Barbarus

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par antoine75 » dim. 07 oct. 2018, 12:18

Je viens d'apprendre qu'il y avait un système appelé "réseau de neurones" qui permet d'apprendre, pour les machines, à partir de données expérimentales. Mais je vois un danger. Si on leur apprend par exemple d'être toujours plus robuste et plus fiable, ces machines pourraient adopter une stratégie qui exclurait toute intervention humaine, car porteuse d'erreur potentielle (l'erreur est humaine), et pourraient même aller jusqu'à éliminer l'homme pour l'empêcher d'intervenir sur leur pérennité. Ca rejoint des thèmes de science-fiction et pourtant il semble que nous soyons aux portes des plus terribles prédictions si nous n'y prenons pas garde.

Avatar de l’utilisateur
Carolus
Barbarus
Barbarus

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Carolus » dim. 07 oct. 2018, 16:06

antoine75 a écrit :
dim. 07 oct. 2018, 12:18
antoine75 :

Si on leur apprend par exemple d'être toujours plus robuste et plus fiable, ces machines pourraient adopter une stratégie qui exclurait toute intervention humaine …
Les machines sont programmées. Elles sont dépourvues de libre arbitre.

Avatar de l’utilisateur
Phylos
Barbarus
Barbarus

Intelligence artificielle (IA), le pour et le contre

Message non lu par Phylos » mer. 06 févr. 2019, 15:44

Une petite réflexion. Je ne sais pas si elle vous intéressera.

La machine raisonne par opérations logiques et combinaisons. À proprement parler elle n'est pas "intelligente" car l'intelligence s'attache au "sens", et le formule ensuite par la raison en respectant les règles de la logique. L'intelligence artificielle devrait être appelée la raison artificielle. La lumière du Christ illumine l'intelligence qui en retour fait "réflexion". On dit que la raison est heteronome car recevant sa nourriture de l'intelligence. Mais la raison par négation de la lumière revendique l'autonomie, et "les lumières" des sciences seulement humaines de l'athéisme se substituent à la lumière du Christ.

Voici un exemple de substitution d'un mot par un autre et aboutissant à la reduction de l'intelligence à la seule raison. La raison devient toute l'intelligence.

Mais il y a pire:

L'apprentissage actuel de la lecture aux enfants par la méthode syllabique substitue celle du son à celle du sens. L'enfant ne doit plus reconnaître le sens mais le son. Par là, on empêche le jeu de son intelligence pour le réduire à un jeu d'associations, celui d'une machine.

Le but de cette destruction de l'intelligence est de réduire l'humain non plus à comprendre le sens (et à appauvrir son champs lexical) mais à réagir à des stimuli et des combinaisons rationnelles de plus en plus complexes: le réduire à une machine. C'est-à-dire dire devenant alors capables de réagir à des maîtres machines. On le voit déjà par la subordination de l'employé à l'ordinateur. L'homme ne devient plus qu'un opérateur de machines. Un "serviteur".

Raphy
Ædilis
Ædilis
Messages : 27
Inscription : sam. 02 févr. 2019, 12:43
Conviction : Catholique

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Raphy » mer. 06 févr. 2019, 22:26

Je n'ai pas tout lu les posts ci-dessus mais le sujet est intéressant et puis très à la mode. J'ai remarqué qu'il y avait pas mal de débats à ce sujet depuis quelques temps. Alors j'ai lu. Un peu. Juste un peu. Mais j'ai compris l'importance de ces débats. Et quoi que l'on en pense il semble évident que c'est un sujet qui devient de plus en plus crucial à aborder. Évidemment par les différents acteurs et spécialistes de la question. Que je ne suis pas.
Mais j'y vois deux courants opposés (en résumant très grossièrement) :

1) Ceux qui ne s’inquiètent pas et même qui pensent que c'est une évolution nécessaire. L'idée d'implants implantés à l'être humain un jour. Implants qui lui permettront peut-être d'augmenter son intelligence et même son espérance de vie...
Au final, ils parlent d'une collaboration positive entre la machine et l'homme. Pas inintéressant.

2) Ceux qui s’inquiètent. Et qui essayent d'anticiper sur l'avenir... Qui apportent une réflexion sur les questions éthiques. Et même philosophiques... Pas inintéressant non plus.

Les deux courants présentent des arguments intéressants. Et encore une fois c'est surtout le débat qui semble utile et nécessaire.

L'argument qui m'a fait le plus réfléchir est le suivant. Un jour les ordinateurs, l'intelligence artificielle, seront tellement efficaces qu'ils pourront probablement se mettre à jour eux-mêmes. Ils pourront sans doute un jour s'upgrader eux-mêmes. Ils pourront peut-être se reprogrammer seuls. Corriger, par exemple, leur code source à notre place. C'est à dire qu'ils pourront s'améliorer sans nous. Et puis d'ailleurs comment pouvoir améliorer efficacement et utilement quelque-chose qui nous dépasse ? Dans ce cas là, on ne maitrisera plus rien. On ne sait même plus si c'est bien ou pas. Alors. Pourquoi ne pas faire confiance à cette intelligence qui nous surpasse ? Ou simplement qui serait plus efficace ? Mais cela peut aussi très vite nous échapper.
L'idée serait donc de mettre des garde-fous. Mais lesquels ? Et comment ?
D'autres répondront qu'il ne faut pas s'inquiéter et que tout ceci n'est qu'une vision alarmiste du sujet.

Dans tous les cas, la communauté scientifique semble se poser toutes ces bonnes questions avec des comités éthiques, des cercles philosophiques... C'est ça qui est rassurant.

Avatar de l’utilisateur
Xavi
Prætor
Prætor
Messages : 2198
Inscription : mar. 28 juil. 2009, 14:50

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Xavi » jeu. 07 févr. 2019, 13:11

Romanov6 a écrit :
dim. 29 oct. 2017, 21:05
Romanov6 écrit :
certains chercheurs affirmaient qu'aucune intelligence ne pourrait jamais venir d'un ordinateur parce que ce dernier ignore le sens des mots, leurs valeurs, leur pertinence,...
...
Alors bien entendu, les machines ne sont pas biologiques. Nos connexions neuronales (Cf. mécanisme des synapses) sont autre chose que le modèle mathématique que suit la chaîne d'instruction programmée dans un processeur, un disque dur et un réseau informatique. Mais pourtant, l'un n'a rien à envier à l'autre. Je crois que la singularité des machines, et pas l'intelligence artificielle mais bien la conscience artificielle, le fameux "je" n'est pas un mythe, sauf pour quiconque considère sa nature comme supérieur à toute autre créature de ce monde... Par contre, j'aime bien l'idée que, justement, il s'agira de l'émergence d'une autre espèce. Est ce qu'elle pourrait nous supplanter, comme pense Elon Musk ? Peut être. Mais par supplanter, pensons nous au fait qu'elle nous soit supérieur en quelques points ? Un Orque nous est bien supérieur dans l'océan, nous ne nous en formalisons pas plus. Le jaguar court plus vite que nous et peut nous dévorer si nous ne prenons pas garde à utiliser ces "augmentations" que sont les armes à projectile, est ce que nous sommes choqué par cela ?

Alors pourquoi le serait on par l'émergence d'une nouvelle espèce qui se baserait sur des phénomènes physiques et logiques que nous avons simplement pris le temps de comprendre en observant la mécanique de l'univers ? Et c'est en ce sens que je vous rejoins sur le fait que ce sera une merveilleuse expérience qui nous permettrait certainement de nous connaître bien plus encore, de nous dépasser et finalement de nous rapprocher encore un peu plus de Dieu. Car soyons honnête, nous l'effleurons tous du doigt... parce que catholique, croyant et/ou assidu à l'étude. Mais je ne suis pas certain que nous soyons tout à fait proche de Lui, c'est un chemin de longue haleine et la science, ses fruits, sont un moyen par lequel nous pouvons continuer ce chemin vers Lui.
Qu'en pensez vous ?
L’homme est, en effet, capable de faire émerger une intelligence nouvelle basée « sur des phénomènes physiques et logiques que nous avons simplement pris le temps de comprendre en observant la mécanique de l'univers » et, par rapport à Dieu, je pense aussi que « la science, ses fruits, sont un moyen par lequel nous pouvons continuer ce chemin vers Lui ».

Il me semble que jamais la science et ses fruits ne sont par eux-mêmes des ennemis, ni même des obstacles à la foi. C’est ce que nous en faisons qui peut être déviant, source de mal, de souffrances, et de mort. Mais, c’est le propre de tous nos actes humains. Depuis les origines, tous nos progrès sont du linge gris dont peut sortir le pire comme le meilleur.

Mais, en ce qui concerne le meilleur, l’intelligence artificielle s’avère une occasion extraordinaire de mieux comprendre ce que nous sommes, notre double nature corporelle et spirituelle.

À cet égard, l’intelligence artificielle est basée sur des « sur des phénomènes physiques et logiques » et elle ne pourra jamais en sortir même si elle va pouvoir gérer des situations imprévues et s’auto-développer, même si elle va pouvoir développer une forme de « je » et même gérer correctement le sens des mots et leurs valeurs.

Le développement physique et logique des connexions n’est pas limité et, vraisemblablement, nous n’en sommes qu’aux prémisses. Que seront demain les intelligences humaines augmentées ?

Mais, c’est ici que, même dans les milieux les plus athées, chacun peut percevoir qu’il y a un réel au-delà des « phénomènes physiques et logiques » et une ouverture qui peut aider à redécouvrir ce qui fait la singularité de notre humanité, ce qui nous caractérise comme êtres créés pour une vie autre.

Sur ce point, Romanov avance une conviction en écrivant : « Je crois que la singularité des machines, et pas l'intelligence artificielle mais bien la conscience artificielle, le fameux "je" n'est pas un mythe, sauf pour quiconque considère sa nature comme supérieure à toute autre créature de ce monde... ».

Tout est dans ce « sauf ».

L’intelligence artificielle, cela peut être un « je » capable de développement singulier, d’auto-apprentissage, de maîtrise du sens des mots et mêmes de valeurs, mais ce n’est pas encore suffisant pour parler d’une « conscience » artificielle « pour quiconque considère sa nature comme supérieure à toute autre créature de ce monde ».

Certes, il ne s’agit pas ici de discuter de supériorité dans la nature terrestre. Bien des animaux nous sont supérieurs de certains points de vue comme Romanov le relève.

Mais, par contre, la foi nous fait percevoir une « supériorité » en ce que nous avons une double nature terrestre et spirituelle qui nous ouvre une possibilité de relation personnelle avec un au-delà de nous-mêmes.

Nous croyons que nous sommes des personnes créées capables de relation consciente et d’amour avec le Créateur, capables de partager une vie qui n’est pas que terrestre et au-delà même des limites terrestres (y compris la limite principale de la mort), une vie qui n’est pas que « physique et logique » ce qui est le propre des ordinateurs et de leur intelligence artificielle mais ce qui limite aussi tout autre vivant terrestre qui, au bout de son processus « physique et logique » cesse d’exister.

L’intelligence artificielle ne va-t-il pas nous aider à redécouvrir la réalité de cet au-delà de nous-mêmes, de notre singularité « supérieure à toute autre créature de ce monde », ce qui ne se situe pas sur le plan limité de la nature terrestre ?

Sur ce point, j’ai lu avec intérêt une réflexion publiée dans un journal belge par Alexandre Mpasinas, un chercheur de l’ULB (une université fondée sur le libre-examen athée) dont le titre (dans la version écrite) m’a accroché par sa pertinence : "L’intelligence artificielle pour mieux se connecter à notre humanité".
https://www.lalibre.be/economie/eco-deb ... fa6b51d647

J’en retiens surtout cet extrait : « Les machines seront capables, dans un avenir proche, de proposer les solutions les plus adaptées à une requête précise, un incident, un problème, en s’appuyant sur la connaissance détaillée des événements du passé
Cette révolution nous oblige à réinventer notre société, en nous forçant à réfléchir à ce qui fait notre singularité d’être humain, c’est-à-dire notre humanité. Même si les machines peuvent prendre des décisions sur la base d’exaoctets (1 milliard de milliards) d’informations, nous serons toujours capables de prendre des décisions en nous basant sur notre intuition et notre instinct.
Ce « pressentiment », ce « rien », ce « complètement infondé », comme le disait le psychiatre Carl Gustav Jung, nous permet de lire « par-delà les choses ». C’est ce « rien » qu’il va nous falloir désormais réinvestir pour cohabiter avec ces machines évoluées sans nous faire cannibaliser par elles. L’homme augmenté de demain n’est pas celui qui utilise au mieux les nouvelles technologies afin de raisonner et prendre des décisions plus rapidement mais bien celui qui avance en restant connecté à son humanité.
»

Il va falloir redécouvrir que le cerveau (qui raisonne sur des connaissances acquises passées) n’est pas un accès à « tout ». Il ne peut que raisonner et il ne peut que raisonner les informations qu’il a reçues. L’humain perçoit, outre ce que son cerveau raisonne, un au-delà des raisonnements aussi convaincants soient-ils.

Demain, lorsque la machine la plus performante et avec les raisonnements les plus exacts lui dira d'aller d'un côté, l'humain pourra encore choisir et préférer d'aller d'un autre côté, en suivant une voix intérieure. N'est-ce pas cela la singularité et la liberté de notre humanité, ce qui lui permet d'aimer un « autre » ?

Ne faut-il pas redécouvrir que nous avons et que nous sommes un « esprit » qui nous ouvre à un au-delà de nous-mêmes et pas seulement un « corps » même si notre cerveau corporel nous fait disposer d’une très belle intelligence et d’une très belle sensibilité ?

Avatar de l’utilisateur
Xavi
Prætor
Prætor
Messages : 2198
Inscription : mar. 28 juil. 2009, 14:50

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Xavi » mer. 03 mai 2023, 13:31

On s’est longtemps soucié de ce qui différencie l’humain de l’animal en relevant les qualités de l’intelligence humaine.

Depuis novembre 2022, les progrès fulgurants de l’intelligence artificielle que montre ChatGPT et, après quelques mois à peine, les performances atteintes actuellement par ChatGPT4, interpellent les chrétiens, plus fortement que jamais, sur notre identité, sur ce qui différencie l’humain du robot.

On se contentait de comparer l’intelligence humaine à celle des animaux et, comme l’humain a une nature indivisiblement corporelle et spirituelle, il n'y avait que peu d'intérêt pour la différence qui résulte spécifiquement de notre vie spirituelle.

Personne ne peut distinguer clairement, d’une part, l’intelligence naturelle neuronale de notre cerveau terrestre que l’intelligence artificielle peut reproduire et développer dans une mesure inimaginable et, d’autre part, l’intelligence spirituelle qui la transcende.

Aujourd’hui, la technologie nous propose des performances intellectuelles exclusivement construites artificiellement et qui se démultiplient par des algorithmes dans une mesure qui menace de dépasser de plus en plus les performances de nos intelligences humaines.

À titre d’exemple et d’information pour nous aider à prendre conscience des enjeux en cause, il est éclairant d’écouter ce qu’en dit le docteur Laurent Alexandre dans une vidéo récente :
https://www.youtube.com/watch?v=QVRGu7S-yXk

Plus que jamais, de telles avancées me semblent rendre urgente la réflexion sur notre propre identité, sur notre création, sur la pertinence de l’Évangile annoncée par le Christ : « Le Royaume des Cieux est tout proche ».

Les cieux c’est le monde spirituel de Dieu. Dieu a créé ensemble les cieux et la terre et notre vie spirituelle qui singularise l’humain et le différencie de toutes les autres créatures ne pourra jamais être produite par un robot.

La plus brillante intelligence artificielle ne sera jamais qu’une intelligence « artificielle », terrestre, cérébrale.

L’évangile de la création enseignée par le Pape François dans son encyclique Laudato si’ nous rappelle que notre création en tant qu’humain à l’image de Dieu manifeste un saut spécifique que la Genèse nous décrit comme un souffle dans la nature physique.

N’est-il pas urgent, en présence des progrès techniques de Chat GPT4, de se rappeler cette réalité spirituelle de notre nature qu’une technique ne peut ni copier, ni créer ?

L’intelligence artificielle ne sera jamais que le résultat des données émanant des créatures que nous sommes et elle sera même certainement capable d’imiter l’intelligence spirituelle mieux que jamais, mais Dieu seul est la source de notre vie spirituelle et de ce qu’elle infuse dans notre intelligence humaine.

La technologie et l’intelligence artificielle pourront être demain d’excellents outils, mais ils pourraient s’imposer comme de redoutables maîtres à ceux qui croiraient pouvoir se passer de la vie spirituelle qui différencie l’humain et qui peut seule le faire vivre d’amour en harmonie avec Son créateur et toute sa création.

L’humain pourra être tenté de confier la connaissance du bien et du mal et donc ses choix à ses machines humaines, mais sa conscience ne cessera jamais de lui rappeler que le monde est créé pour être développé en harmonie d’amour avec Dieu par l’Esprit Saint et qu’à cet égard les vrais choix se font spirituellement par le cœur de l’homme vivant.

La machine n’aura jamais le dernier mot pour un humain libre conscient de la valeur prépondérante de sa vie spirituelle.

Mais, l’opposition risque d’être frontale avec ceux qui croient que l’intelligence humaine n’est que le produit de l’évolution physique et qui, demain, mépriseront comme irrationnels, déraisonnables, voir psychotiques, tous ceux qui, considérés comme incapables de répondre aux arguments extrêmement intelligents de l’intelligence artificielle, refuseront néanmoins de suivre ses conclusions pour leur propre vie et leurs propres choix, au nom d’un choix spirituel intérieur.

Avatar de l’utilisateur
Kerygme
Prætor
Prætor
Messages : 2045
Inscription : jeu. 30 mai 2019, 13:12
Conviction : Diacre permanent, catholique romain
Localisation : Argentoratum

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Kerygme » jeu. 04 mai 2023, 10:24

Bonjour Xavi,

J'ai lu avec intérêt vos deux interventions et, me concernant, je dégagerai l'idée générale qu'en effet il n'y pas de craintes à avoir d'une IA. Elle ne fera finalement que compiler rapidement des téras, voir des yottas octets de données.
Mais c'est effectivement l'orientation qu'on lui fera prendre qui peut être inquiétante. Par nature une IA n'a pas vocation à nous dominer, à nous manipuler, sauf si on dirige ses algos vers ces finalités déviantes. Elle exécutera béatement ce qui lui est demandé, cela peut être bon ou pas.

Il y a cependant deux aspects secondaires qui m'inquiètent : l'isolement que pourrait induire un tel "interlocuteur", et la qualité des réponses.

Je prends un exemple : quand un internaute se pose des questions sur la foi catholique il a possibilité de venir sur ce forum et d'interagir avec ses membres. Il obtiendra des réponses graduées selon les compétences de chacun, mais la grande majorité des réponses se feront dans l'esprit et le respect de la Sainte Écriture, du Magistère, des dogmes.
Mais pour cela, il devra se présenter, respecter des règles du forum et des règles de courtoisie envers ses membres, il devra surmonter la crainte de poser telle question de peur de paraître ridicule ou d'être jugé, il devra affronter les réactions, les sensibilités de chacun etc etc.

Le risque ne serait-il pas qu'un internaute trouve dans une IA un "interlocuteur" lui permettant de s'affranchir de tout cela ? Je pose une question et j'ai une réponse, cela me suffit et je vais donc me tourner plus aisément vers la facilité : rapidité, synthèse, etc.

Ce qui m'amène à l'inquiétude suivante : les réponses compilées par une IA peuvent être la synthèse des réponses les plus fréquentes, et pas forcément les plus justes. En injectant des masses de réponses "orientées" sur internet, n'y a t'il pas une faille pour rouler l'IA et ainsi permettre d'orienter, de formater, de dévier ses réponses ?

J'ai expérimenté, il y a quelques années, une application sur smartphone qui amusait ma fille et ses ami(e)s.
On pensait à une personne célèbre, à un personnage de BD, à un monument, bref quelque chose de connu et après quelques réponses à des questions : le résultat s'affichait et çà tombait pile poil à chaque fois (à condition que les réponses soient honnêtes).
Ma fille m'a mis au défi de mettre cette application en défaut, elle me demandait de penser à quelqu'un/quelque chose sans lui dire et elle se ferait fort de trouver ce que c'est. Après quelques essais infructueux mais un bon moment de rigolade, j'ai eu une idée et l'application a déclaré forfait. Quand ma fille, interloquée, m'a demandé à qui/quoi je pensais j'ai répondu : Dieu.
Mais je ne suis pas dupe, la réponse aurait été trouvée si j'avais donné des réponses en accord avec la base de données, et un probable procédé par élimination. Alors que dans mes réponses j'ai tenu compte de ma sensibilité, de ma perception personnelle.

Si demain une IA collecte massivement des données sur la question : qui est Dieu ? Peut on être certain que la réponse soit conforme au Dieu des croyants ou plutôt à un dieu généraliste, d'une imagination majoritaire, un grand tout, ect ?

L'IA, pour ou contre ? Les deux, car tout dépend de qui est derrière et de ses buts.
Pour : son aspect fonctionnel, mécanique, pratique.
Contre : permettra t'elle une liberté de choix parmi les réponses ? Une IA n'a que la perception qu'on lui impose ou des données qu'elle compile globalement; après s'être imposée, elle pourrait être un formidable moyen de contrôle ou de formatage des contenus numériques et indirectement d'une certaine connaissance, d'une vérité historique, d'une sensibilité religieuse ou spirituelle ... .

Argument de dernière minute : chatGPT4 est payant maintenant pour 24 dollars par mois. Il y a bien un but commercial ou un risque de politique clientéliste qui renforce mon contre. Google a ouvert la voie en priorisant certaines réponses dans les recherches.
« N’aimons pas en paroles ni par des discours, mais par des actes et en vérité. » (1Jean 3,18)

Avatar de l’utilisateur
Xavi
Prætor
Prætor
Messages : 2198
Inscription : mar. 28 juil. 2009, 14:50

Re: Intelligence artificielle (IA), le pour et le contre

Message non lu par Xavi » jeu. 04 mai 2023, 10:48

Bonjour Kerygme,

Merci pour votre réflexion qui attire l’attention sur plusieurs aspects pertinents.

J’ai posté votre réponse sans rien y changer sur ChatGPT avec pour seule instruction « répond » et voici sa réponse sans aucune modification :

Bonjour,

Vous soulevez des points très intéressants et valides concernant l'intelligence artificielle et ses implications potentielles sur l'isolement, la qualité des réponses et les biais inhérents aux données sur lesquelles elle se base.

Il est vrai qu'une IA peut fournir un moyen facile et rapide d'obtenir des réponses, ce qui pourrait inciter certains à s'isoler et à ne pas interagir avec d'autres personnes, ce qui peut avoir des conséquences sur les relations sociales. Toutefois, il est important de se rappeler que l'IA est un outil, et son utilisation dépend de l'utilisateur. Il incombe donc aux individus de choisir comment et quand ils veulent utiliser l'IA et d'équilibrer son utilisation avec d'autres formes de communication et d'interaction.

En ce qui concerne la qualité des réponses et les biais, vous avez raison de dire que les réponses fournies par une IA peuvent être influencées par les données sur lesquelles elle s'est entraînée. Si ces données sont biaisées ou orientées d'une certaine manière, cela peut se refléter dans les réponses de l'IA. C'est un problème bien connu et les chercheurs travaillent activement sur des méthodes pour réduire ces biais et améliorer la qualité des réponses fournies par les IA.

Enfin, pour répondre à votre question sur la perception de Dieu par une IA, il est important de souligner que l'IA ne possède pas de croyances, de convictions ou de sensibilité propre. Elle se base sur les données qu'elle a apprises pour fournir des réponses. Ainsi, il est possible qu'une IA puisse donner une réponse généraliste ou une réponse en accord avec une certaine croyance, en fonction des données sur lesquelles elle s'est entraînée. Il est donc crucial de prendre les réponses de l'IA avec prudence et de les considérer comme un point de vue parmi d'autres, plutôt que comme une vérité absolue.

En somme, l'intelligence artificielle présente des avantages et des inconvénients. Son utilisation doit être réfléchie et équilibrée, en gardant à l'esprit ses limitations et ses biais potentiels. L'IA peut être un outil précieux lorsqu'elle est utilisée de manière responsable et en complément des interactions humaines et des sources d'information diverses.

Répondre

Qui est en ligne ?

Utilisateurs parcourant ce forum : Aucun utilisateur inscrit et 40 invités