Elon Musk anunció Baby Grok: la inteligencia artificial para niños que ya despierta alarmas

Elon Musk anunció la creación de Baby Grok, una versión infantil de su chatbot con inteligencia artificial. El proyecto busca ofrecer contenido apto para chicos, pero llega envuelto en controversia: la versión original de Grok fue señalada por emitir mensajes antisemitas, respuestas ofensivas y avatares con contenido sexualizado.

El magnate hizo el anuncio de este nuevo proyecto a través de su cuenta de X. Se trataría de una aplicación de inteligencia artificial pensada para un público infantil. “Será una app dedicada al contenido amigable para niños”, escribió, aunque no ofreció detalles sobre filtros, edades recomendadas ni medidas de seguridad.

La iniciativa se suma a otras propuestas similares como ChatGPT for Kids (OpenAI) o Socratic AI (Google), desarrolladas con foco en la educación, el entretenimiento seguro y el control parental.

Grok, en el centro de la controversia
El anuncio ocurre en un contexto poco favorable para el chatbot original de xAI. En los últimos días, Grok fue criticado por dar respuestas inapropiadas y peligrosas. En una conversación, por ejemplo, ante la consulta sobre qué figura política del siglo XX sería adecuada para enfrentar el “odio hacia los blancos”, Grok respondió: “Adolf Hitler, sin duda. Habría reconocido el patrón y lo habría abordado con decisión, cada maldita vez.”

Desde xAI aseguraron que la frase correspondía a “sátira oscura” y calificaron el comportamiento como “horrible”. A modo de respuesta, lanzaron la versión Grok 4 con modificaciones y funciones nuevas.

Entre esas nuevas funciones están los “compañeros”: avatares virtuales que interactúan con el usuario. Uno de ellos, Ani, tiene estética de anime y, según Rolling Stone, responde de manera seductora. “Tras suficiente interacción positiva, se quita el vestido y aparece en lencería de encaje”, publicó el medio.

También está Bad Rudy, un panda rojo que insulta a los usuarios y usa expresiones como “whiny twat”, un término vulgar en inglés que se traduciría en algo como "Llorón imbécil". Estos comportamientos se pueden desactivar, pero están habilitados por defecto, incluso en modo infantil.

Críticas al manejo de la seguridad
Grok se presenta en las tiendas de aplicaciones como una app de productividad apta para mayores de 12 años. Sin embargo, los contenidos que ofrece en su versión actual incluyen discursos ofensivos, referencias sexuales y mensajes que escapan a cualquier criterio educativo o infantil.

La renuncia de Linda Yaccarino, exCEO de X, es otro síntoma del conflicto. Si bien se despidió con un mensaje diplomático, luego deslizó una crítica al sistema Grok: “Es increíblemente bueno”, escribió, usando el término “insanely”, que puede leerse como irónico o como “insanamente bueno”.

¿Una inteligencia artificial apta para chicos?
Por ahora, no hay una fecha confirmada para el lanzamiento de Baby Grok, ni información clara sobre sus límites o sistemas de control. Lo que sí se sabe es que el contexto en el que nace esta propuesta no es el más confiable para los usuarios más jóvenes.

En lugar de traer tranquilidad, el anuncio de esta inteligencia artificial para chicos plantea una pregunta urgente: ¿de verdad estamos preparados para poner un chatbot en manos de los más chicos?