La conscience n'est pas un calcul

Titre réel de l'article ci-dessous… et j'ajouterais que, puisque l'intelligence et le calcul sont inséparables, le calcul n'est PAS non plus l'intelligence. Après avoir passé une grande partie de la dernière décennie à argumenter qu'une soi-disant (numérique) Intelligence Artificielle Générale (IAG) est impossible et est probablement rien de plus qu'un autre (désespéré) truc marketing que Big Tech utilise pour impressionner le grand public et les politiciens afin de maintenir le financement des contribuables, je suis ravi de voir enfin que certaines voix dans les médias grand public commencent à faire des affirmations similaires. Mes arguments découlent principalement du fait que l'intelligence/la connaissance (structure) est intimement structurée au sein de la conscience (fonction) et que les deux ne peuvent être séparées. Ainsi, l'intelligence (et par extension, l'IAG) est impossible sans conscience et vice versa. L'article ci-dessous fait un argument légèrement plus simple en affirmant que la conscience n'est PAS un calcul simplement parce que le calcul n'est pas un système indépendant et nécessite un observateur externe pour définir sa signification, tandis que la conscience est plutôt le contraire de cela (indépendante et significative en soi). Maintenant, personne de sensé ne nierait qu'il existe des algorithmes assez habiles à manipuler les symptômes, généralement des mots, au point que ces algorithmes peuvent tenir une conversation "intelligente" avec un humain au point où l'humain pense qu'il converse avec un autre humain. C'est la définition du célèbre (in)fâme Test de Turing, mais ce test ne teste pas vraiment l'intelligence. Il teste la capacité à manipuler des symboles (des mots, dans ce cas) selon un ensemble de règles statistiques représentant des préférences/culture arbitraires humanoïdes lors de l'utilisation de ces symboles. Une véritable intelligence ne peut être atteinte que par un flux dirigé d'électrons, construisant constamment une structure (dans notre cas, le cerveau) qui soutient encore plus efficacement le flux d'électrons. Les ordinateurs produisent un flux dirigé d'électrons, mais ce flux ne produit pas de structure renforçant le flux. En fait, la structure que le flux d'électrons de l'ordinateur produit est principalement statique, ne peut pas être mise à jour en temps réel (contrairement au cerveau), et n'a aucune signification en dehors de celle que les humains lui attribuent. Ainsi, un système de véritable IAG, s'il est jamais construit, doit être de nature analogique, et avec une structure qui a du sens en dehors des définitions arbitraires de quelqu'un. Oh, et une dernière chose – comme cela a été prouvé mathématiquement dès les années 1950, aucune combinaison de méthodes déterministes et aléatoires (ce qu'est un ordinateur) ne peut JAMAIS augmenter l'information mutuelle (connaissance). Cependant, les humains le peuvent. Donc, quoi que soient les humains, c'est très différent des ordinateurs, et très différent de l'IAG dont Big Tech se vante tout le temps. J'espère simplement que plus de gens se réveilleront et réaliseront que tout le jeu autour de l'IAG n'est rien de plus qu'une autre arnaque géante qui ne produira rien de valeur pour la personne ordinaire. Vous ne me croyez pas ? Eh bien, peut-être que les articles ci-dessous changeront votre avis. Le légendaire moteur d'intelligence artificielle IBM Watson, qui devait révolutionner la médecine, le droit, la science et même la société dans son ensemble, a récemment été vendu pièce par pièce en raison de son incapacité à tenir ses promesses. Google a également été pris en flagrant délit de tricherie lors de sa démonstration d'"intelligence artificielle", et quelques autres géants de la tech ont également affirmé avoir une IA capable de parler/comporter comme un humain.

Oui, on s'est fait arnaquer, encore. Au mieux, l'IA que Big Tech continue de promouvoir automatisera la plupart des emplois ennuyeux/déprimants/non intelligents des cols bleus et blancs et plongera la majorité de la population dans la pauvreté. Au pire, elle générera des systèmes de contrôle brutalement oppressifs pour régner sur la vie des gens, ce qui dégradera encore davantage la capacité des humains à agir intelligemment au point où il y aura effectivement peu de différence entre le comportement de la soi-disant "intelligence artificielle" et celui des humains. Non pas parce que la première est devenue véritablement intelligente, mais plutôt parce que les seconds ont perdu leur capacité à agir ainsi.

https://joe-antognini.github.io/ml/consciousness

« Bien sûr, il est le plus simple de construire un ordinateur où les états de haute tension correspondent aux 1 et les états de basse tension aux 0 ou vice versa. Mais il n'y a aucune obligation de construire nos ordinateurs de cette manière. Nous pourrions construire un ordinateur parfaitement valide où les états de haute tension des registres de valeur paire correspondent aux 1 et où ils correspondent aux 0 dans les registres de valeur impaire, ou un ordinateur où la cartographie s'inverse tous les 13 cycles d'horloge. Le système ne "calcule" que parce que nous avons encodé l'information de cette manière. [9] Ainsi, les simulations informatiques ne peuvent jamais produire l'entité qu'elles simulent puisque la "simulation" n'est pas un système indépendant. Elle n'est définie qu'en termes de sa relation avec un observateur externe. Une simulation d'un cerveau ne peut pas produire de conscience de la même manière qu'une simulation du temps ne peut pas produire de pluie. »