Google visé par une plainte après l'utilisation de Gemini par une élève pour préparer son suicide
Les vidéos
Une affaire judiciaire relance le débat sur l'encadrement des intelligences artificialles génératives, en particulier auprès des plus jeunes. Aux États-Unis, des parents ont décidé de porter plainte contre Google. Ils accusent directement le chatbot de l'entreprise d'avoir joué un rôle dans la préparation du suicide de leur fille.
Selon les éléments rapportés par la presse, la jeune fille a utilisé le service d'intelligence artificielle Gemini développé par Google. Cet usage s'est fait directement depuis un ordinateur Chromebook que l'établissement scolaire américain lui avait fourni dans le cadre de sa scolarité.
La plainte déposée par la famille met en lumière les risques liés à l'utilisation non encadrée de ces technologies d'assistance conversationnelle par des mineurs, notamment sur des outils mis à disposition dans le milieu éducatif.
Du côté du contexte technologique, la firme de Mountain View, connue mondialement pour son moteur de recherche et ses logiciels, se retrouve ainsi confrontée à des questions cruciales concernant la sécurité des utilisateurs et la modération de ses intelligences artificielles.
Cette procédure judiciaire aux États-Unis pourrait faire jurisprudence quant à la responsabilité des géants de la tech et des établissements scolaires quant aux outils numériques fournis aux élèves, ouvrant la voie à des débats nécessaires sur la protection de la jeunesse en ligne.
