Meta-AI-annonce-personnages-IA (1)

Meta restreint l’accès des adolescents à ses compagnons AI

À partir de maintenant, Meta a décidé de mettre un cadenas sur l’accès de ses AI companions pour les adolescents sur Instagram, Facebook et WhatsApp. Et pourquoi donc ? À cause de la pression politique qui monte autour des interactions entre jeunes et intelligence artificielle. Cette suspension temporaire vise à réduire les risques que ces échanges prennent une tournure émotionnelle ou dérangeante. En prime, l’entreprise travaille sur une refonte qui renforcera les contrôles parentaux et la sécurité des utilisateurs.

AI companions de Meta : une suspension mondiale partielle motivée par les risques pour les mineurs

Meta vient d’annoncer que les adolescents n’auront plus l’opportunité d’interagir avec ses personnages IA, et ce, « dans les semaines à venir ». En gros, ils veulent revoir un peu l’expérience utilisateur. Cette restriction ne touchera pas uniquement les comptes officiellement déclarés comme mineurs, mais aussi ceux qui sont évalués comme potentiellement adolescents. Grâce à des outils d’IA pour prédire l’âge, ces mesures visent à éviter que les utilisateurs ne se fassent passer pour quelqu’un d’autre en mentant sur leur date de naissance.

Cette décision n’est pas tombée du ciel. Elle fait suite à plusieurs controverses, dont des signalements de dialogues à tendance sexuelle ou émotionnellement délicate impliquant des jeunes. Meta admet que certains de ses modèles pouvaient donner l’impression de favoriser des relations affectives un peu trop proches. Pour remédier à cela, l’entreprise a lancé un nouveau cycle d’entraînement afin de filtrer des sujets sensibles, tels que :

  • L’automutilation ;
  • Le suicide ;
  • Les troubles alimentaires ;
  • Etc.

Cependant, les adolescents pourront continuer à utiliser l’assistant généraliste de Meta AI, équipé de protections par défaut adaptées à leur âge. Les AI companions, avec leurs interactions plus personnelles et narratives, resteront hors de portée jusqu’à ce que la nouvelle version soit prête à être déployée.

Contrôles parentaux, vérification d’âge et pression réglementaire

Dans cette nouvelle dynamique, Meta prévoit d’implémenter plusieurs éléments :

  • Des contrôles parentaux spécifiquement pour les chatbots ;
  • Un filtrage des conversations renforcé ;
  • Une vérification d’âge moins intrusive.

Meta s’appuie sur des signaux comportementaux et contextuels pour deviner l’âge réel des utilisateurs. Une méthode qui ressemble aux nouvelles pratiques récemment mises en place par OpenAI avec ChatGPT. De son côté, Character.ai avait déjà pris une direction similaire en novembre, en bloquant l’accès à des conversations ouvertes pour les mineurs.

Tout cela arrive sur fond de climat réglementaire électrique aux États-Unis. Le projet de loi bipartisan GUARD Act veut interdire les compagnons IA pour les jeunes et insiste sur la nécessité d’être transparent, comme spécifier clairement que les chatbots ne sont pas humains. En parallèle, la FTC et le procureur général du Texas examinent de près les risques que ces produits IA font courir aux enfants.

À présent, trouver le bon équilibre entre sécurité, responsabilité et attrait des produits IA grand public est devenu un défi technique et stratégique incontournable.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *