Tout le monde sait que les IA sont dangereuses. Tout le monde sait qu’ils peuvent faire des percées dans le suivi de la faune et le repliement des protéines avant le déjeuner, mettre la moitié de la main-d’œuvre au chômage avant le dîner et simuler suffisamment la réalité pour tuer ce qui reste de la démocratie elle-même avant que les lumières ne s’éteignent.
Moins de gens admettent que les IA sont intelligentes – pas encore, en tout cas – et encore moins admettent qu’elles pourraient être conscientes. Nous pouvons gérer le fait que GPT-4 bat 90 % d’entre nous au SAT, mais nous ne sommes peut-être pas aussi favorables à l’idée que l’IA puisse se réveiller – elle pourrait déjà être éveillée, si vous achetez ce que Blake Lemoine (anciennement de Google) ou Ilya Sutskever (co-fondateur d'OpenAI) vend.
Lemoine a notoirement perdu son emploi après avoir déclaré publiquement (bien que de manière peu convaincante) que le chatbot LaMDA de Google était conscient de lui-même. En 2022, Sutskever était d’avis : « Il se peut que les grands réseaux neuronaux d’aujourd’hui soient légèrement conscients. » Et rien qu'en août dernier, 19 spécialistes de l'IA, de la philosophie et des sciences cognitives ont publié un article suggérant que même si aucun système d'IA actuel n'était « un candidat sérieux pour la conscience », il n'y avait aucune raison pour qu'il n'en émerge pas « à court terme ». .» L’influent philosophe et neuroscientifique David Chalmers estime que ces chances, au cours de la prochaine décennie, seront supérieures à une sur cinq. La suite des événements est traditionnellement laissée aux auteurs de science-fiction.
Il se trouve que j'en suis un.
Je ne l’ai pas toujours été. J’étais autrefois un scientifique – pas de neuroscientifique ou de gourou de l’IA, juste un biologiste marin passionné d’écologie biophysique. Cela ne m'a pas donné une grande expérience des soulèvements de robots, mais cela m'a inculqué une appréciation du processus scientifique qui a persisté même après que je sois tombé en disgrâce et que j'ai commencé à écrire des trucs sur les vaisseaux spatiaux et les pistolets à rayons. J'ai cultivé l'habitude de coller des annexes techniques fortement référencées à la fin de mes romans, des essais explorant la véritable science qui restait lorsque vous grattiez les vampires de l'espace et les lecteurs de télématière. J'ai développé une réputation d'homme de science-fiction dure qui faisait ses devoirs (même s'il imposait ces devoirs à ses lecteurs plus souvent que certains pourraient le considérer comme poli).
Parfois, ces devoirs impliquaient l’IA : une trilogie, par exemple, qui présentait des IA organiques (« Head Cheeses ») construites à partir de cellules cérébrales cultivées réparties sur une matrice d’arséniure de gallium. Parfois, cela concernait la conscience : mon roman Blindsight utilise les conventions d'une histoire de premier contact pour explorer l'utilité fonctionnelle de la conscience de soi. Celui-ci s'est retrouvé d'une manière ou d'une autre dans de véritables laboratoires de neurologie, dans les programmes de cours de premier cycle en philosophie et en neuropsychologie. (J’ai essayé de convaincre mes éditeurs de mettre cela sur la couverture – ça se lit comme un manuel de neurologie ! – mais pour une raison quelconque, ils n’ont pas mordu.) Les gens des niveaux supérieurs de Neuralink et Midjourney ont commencé à faire circuler mes histoires. De vrais scientifiques – spécialistes de l’apprentissage automatique, neuroscientifiques, cosmologistes théoriques occasionnels – ont suggéré que j’étais peut-être sur quelque chose.
Je suis un imposteur, bien sûr. Un biologiste décédé qui s'est éloigné de son domaine. C’est vrai que j’ai fait quelques suppositions heureuses, et je ne me plaindrai pas si on veut m’acheter des bières pour ça. Et pourtant, une vague inquiétude couve sous ces pintes. Le fait que mes suppositions reçoivent un accueil aussi chaleureux pourrait ne pas consolider mes références en tant que prophète, mais plutôt servir d'acte d'accusation contre tout club qui aurait quelqu'un comme moi comme membre. S’ils me laissent passer les portes, vous devrez vous demander si quelqu’un a vraiment la moindre idée.
Exemple concret : il serait beaucoup plus facile de répondre à la...
[Courte citation de 8% de l'article original]