OpenAI a récemment exposé les procédures en place pour empêcher les utilisations dangereuses (pour l’utilisateur ou pour les autres) de son IA. L’entreprise surveille les discussions en utilisant un système automatisé, puis demande à des évaluateurs humains de confirmer les signalements de ses algorithmes.
