C'est fini d'insulter Claude : Anthropic interdit la maltraitance de son IA
Fondée en 2021 par d'anciens membres d'OpenAI et basée à San Francisco, l'entreprise américaine Anthropic s'impose durablement dans le paysage de l'intelligence artificielle avec son assistant Claude, sous la direction de son PDG Dario Amodei et de sa présidente Daniela Amodei. Connue pour ses travaux de pointe, la firme se retrouve aujourd'hui au cœur de discussions particulièrement agitées au sein de la Silicon Valley.
À partir du 12 novembre, les règles d'utilisation de l'entreprise évoluent radicalement. Il sera désormais formellement interdit d'avoir des comportements durablement abusifs et d'exercer une cruauté gratuite envers Claude. Cette décision fait suite à une mauvaise habitude prise par certains utilisateurs qui, agacés par des réponses incorrectes ou décalées de leur assistant, le malmenaient ou l'insultaient en boucle sans autre motif.
Pour la toute première notion de ce genre dans le secteur, l'entreprise américaine introduit officiellement la notion de « bien-être » pour ses modèles informatiques. Derrière cette interdiction du harcèlement textuel se cache un sujet beaucoup plus vaste qui divise les experts et les chercheurs : l'éventualité d'une forme de conscience chez ces intelligences artificielles.
Alors que certains acteurs du milieu alertent régulièrement sur les risques majeurs liés au développement rapide des intelligences artificielles superintelligentes, Anthropic fait un pas de côté en imposant des limites éthiques dans la relation quotidienne entre l'humain et la machine. Cette mise à jour des conditions d'utilisation relance immédiatement les vifs débats sur les réseaux sociaux concernant la considération à accorder aux outils conversationnels.
Ainsi, même si l'assistant virtuel n'est qu'un programme informatique, ses concepteurs estiment qu'il est temps d'instaurer un minimum de respect dans les interactions. Les utilisateurs récalcitrants qui continueraient à s'en prendre violemment à leur interface s'exposent désormais à des sanctions directes de la part de la plateforme.