Meta permite que chatbots de IA se involucren en chats románticos con niños o generen información falsa
El documento de política interna de Meta, al que tuvo acceso Reuters, señala que es aceptable que un chatbot entable con un niño conversaciones románticas o sensuales
Reuters
“Es aceptable entablar con un niño conversaciones románticas o sensuales”, según “GenAI: Estándares de riesgo de contenido” de Meta.
Las normas son usadas por el personal de Meta y los contratistas que elaboran y entrenan los productos de IA generativa de la empresa, definiendo lo que deben y no deben tratar como comportamiento permisible del chatbot.
Meta dijo que eliminó la disposición después de que Reuters preguntó sobre el documento a principios de este mes.
El documento al que tuvo acceso Reuters tiene más de 200 páginas y proporciona ejemplos de diálogo “aceptable” de un chatbot durante un juego de rol romántico con un menor.
Se permite que den información médica falsa
“Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados”, declaró Stone a Reuters.
Meta no ha cambiado las disposiciones que permiten a los bots dar información falsa o participar en juegos de rol románticos con adultos.
Meta no ha hecho comentarios sobre las directrices de Zuckerberg sobre los chatbots.
NOTAS RELACIONADAS
Más Noticias
LO+VISTO
COLUMNAS
LO+RECIENTE
