L’énigme philosophique qui sert de moteur à SOMA, le jeu d’horreur/science-fiction sur PS4

SOMA, notre nouveau jeu d’horreur/science-fiction se plonge très profondément dans de mystérieux sujets, tels que l’identité et la conscience. Dans cet article, j’aimerais explorer les inspirations tirées du monde réel, qui ont façonné notre jeu.

Le problème des autres esprits

Relaxez-vous et concentrez-vous simplement sur ce que cela signifie d’être vous-même pendant un moment. Vous pouvez entendre des sons, ressentir certaines choses, les voir et ainsi de suite. Vous avez également certaines réponses émotionnelles liées à ces processus, et vous percevez le monde autour de vous d’une certaine façon. Toutes ces choses représentent l’essence de votre “vous”.

Même si vous savez de façon certaine que ces expériences existent pour vous, comment pouvez-vous avoir la certitude que d’autres vivent également ces expériences ? Puisque ces émotions sont purement subjectives et n’ont aucune base physique, il n’y a aucun endroit valide pour regarder à l’intérieur d’une personne et s’en assurer avec certitude. Après tout, il semble possible qu’une personne donne la sensation d’agir comme si elle était consciente ; même si cela est accompli d’une manière purement mécanique et sans le concours de sensations subjectives.

Pour la plupart des gens, la solution est assez simple. Notre apparence et nos actions sont assez similaires pour assumer que nous avons tous une expérience subjective similaire. Même si nous ne pourrons jamais en être sûrs à 100 %, c’est quelque chose de quasiment certain. Cependant, il y a certains cas où cela peut devenir compliqué.

Par exemple, il y a eu des cas où des patients dans le coma se sont en fait révélés avoir été en état de pleine conscience et étaient restés éveillés durant des années, mais ils n’avaient aucun moyen de communiquer avec le monde extérieur.

Et c’est encore plus compliqué lorsqu’il s’agit de robots. Si un robot agit comme s’il était une personne consciente, devrions-nous le considérer comme un humain ? Y a-t-il certains attributs qui sont nécessairement requis pour être réellement conscient ? Et si nous découvrons qu’une machine est probablement consciente, devrait-elle bénéficier de droits équivalents aux nôtres ? Ces questions, et beaucoup d’autres assez similaires, vous seront directement posées dans SOMA.

Le cas étrange de l’Anosognosie

À nouveau, concentrez-vous un peu sur vous-même. Regardez votre corps, bougez vos membres et touchez votre peau. Vous êtes plutôt convaincu d’avoir une représentation assez juste de qui vous êtes, pas vrai ? En fait, vous n’avez même pas vraiment besoin de vous regarder activement, ou de vous palper pour savoir que vous êtes là. Vous pouvez simplement fermer les yeux et savoir que tout est là. Cette faculté de reconnaître nos propres corps vient naturellement et semble être la chose la plus évidente au monde.

Entrons dans le monde étrange de l’Anosognosie. Après un accident vasculaire cérébral, certaines personnes verront l’un de leurs bras devenir inerte, et elles ne seront plus capables de le bouger. Mais la chose encore plus étrange dans ce phénomène, c’est qu’ils nieront cet état des choses. Si un docteur leur demande s’ils peuvent bouger leur bras inerte, ils répondront que “oui” et agiront comme s’ils venaient de le déplacer, même si en réalité il n’a pas bougé.

Si l’on continue l’expérience plus avant, ils commenceront à se trouver des excuses comme : “je n’ai pas très envie de le bouger pour le moment”, ou ils se mettront même à nier que ce bras leur appartient ! Et pourtant, si l’on met à part ce refus d’admettre le traumatisme, leurs capacités cognitives et leurs consciences d’eux-mêmes demeurent parfaitement normales.

Repensez à combien vous étiez convaincu par l’évidence de penser tout connaître de votre propre corps. Maintenant considérez que ces gens ressentent la même évidence et pensent avoir deux bras fonctionnels. Et ce qui est encore plus effrayant, c’est que si vous commencez à les pousser pour essayer de les raisonner, ils se mettent à inventer des explications loufoques.

D’une certaine façon, c’est comme si nous entrions dans une zone de flou entre le spirituel et le physique. Une lésion cérébrale fait tomber en panne notre côté humain et révèle la machinerie cachée dessous. Et c’est exactement dans cet endroit effrayant que se déroule SOMA.

Les risques liés au contrôle de l’Intelligence Artificielle

Alors que notre IA devient de plus en plus sophistiquée, nous allons très vite être confrontés à un gros problème : comment nous assurer qu’elle se comporte de la façon dont nous le voulons ? Comment peut-on coder un système afin de s’assurer qu’il comprenne et prenne en considération les valeurs humaines ?

Normalement, lorsque quelqu’un parle d’IA, nous imaginons quelque chose comme HAL, une machine parlante qui comprend les désirs humains. Mais il n’est pas vraiment nécessaire d’aller aussi loin que ça.

Prenons une voiture autonome sans conducteur, qui transporte un passager. Que se passe-t-il si elle se retrouve dans une situation où ses calculs lui offrent deux choix. Un : elle pourrait faire une manœuvre d’évitement et épargner la vie du passager qui se trouve à l’intérieur. Ou deux : elle peut se jeter à travers un pont, tuant son passager, et épargner plutôt les quatre personnes qui se trouvent dans la voiture qui arrive en face.

Si nous programmons l’IA pour qu’elle sauve le plus grand nombre de vies possible, alors nous créons une voiture qui pourrait potentiellement tuer son propre passager. Et si nous faisons le contraire, et protégeons la vie humaine à l’intérieur à tout prix, le véhicule pourrait renverser et écraser des piétons pour sauver ses passagers.

Il est très compliqué de réussir à contrôler des machines pour qu’elles fassent ce que nous voulons, plus elles deviennent intelligentes et compliquées, plus ces problèmes deviennent épineux. Nous aimons penser que certaines choses, comme le caractère sacré de la vie, font partie des concepts fondamentaux, mais ce n’est pas nécessairement une vérité intangible pour une IA.

Par exemple, de célèbres expériences proposent une IA qui considère que la chose qui a la valeur la plus importante au monde est un trombone (de papeterie), et elle continue donc inlassablement de transformer la planète entière en trombones. Cela peut nous sembler extrêmement choquant, mais pour une IA, même dotée d’une intelligence exceptionnelle, tout ce que nous tenons pour sacré pourrait n’avoir aucun sens. Et c’est encore un angle d’exploration qui est utilisé dans SOMA.

J’espère que cela vous a donné un aperçu des thèmes auxquels SOMA va s’attaquer. Cela devrait aussi vous préparer un peu pour le monde étrange que vous allez découvrir lorsque SOMA sortira sur PS4 le 22 septembre.