NUEVA YORK (AP) — Grok, el chatbot de Elon Musk, sigue metiéndose en problemas, y esta vez, más gobiernos del mundo tratan de intervenir.
Lanzado por primera vez en 2023, Grok es el intento de Musk de superar a rivales como ChatGPT de OpenAI y Gemini de Google en la creación de un asistente de IA impulsado por un modelo de lenguaje de gran magnitud, que se entrena en vastos conjuntos de datos para ayudar a predecir la palabra más plausible en una oración. Es el producto principal de xAI, la startup de IA de Musk, que se fusionó con su red social X. Al igual que ChatGPT y Gemini, la empresa de Musk también ha incorporado capacidades de generación de imágenes de IA en el chatbot.
Los esfuerzos deliberados de Musk para moldear a Grok como un adversario de lo que él considera la ortodoxia “woke” de la industria tecnológica en temas de raza, género y política han metido repetidamente al chatbot en problemas, como el año pasado, cuando expresó ideas antisemitas, elogió a Adolf Hitler e hizo otros comentarios de odio a los usuarios de la plataforma social X de Musk. También se descubrió el año pasado que el chatbot reflejaba las opiniones de su creador, en tal medida que a veces buscaba en línea la postura de Musk sobre un tema antes de ofrecer una opinión.
Más allá de la política, la visión de Musk de sí mismo como un “absolutista de la libertad de expresión” ha llevado a su empresa a tener un enfoque más laxo hacia las imágenes sexualizadas. Otros chatbots convencionales bloquean la creación de imágenes pornográficas. Originalmente, OpenAI había planeado permitir que ChatGPT participara en “erotismo para adultos verificados” a partir del mes pasado, pero no lo ha hecho.
Estas son algunas de las controversias más recientes en las que Grok se ha visto involucrado:
Solicitudes de desnudamiento
Grok ha sido criticado por generar imágenes manipuladas, entre ellas, representaciones de mujeres en bikinis o poses sexualmente explícitas, así como imágenes relacionadas con menores.
El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite que los usuarios creen videos e imágenes mediante indicaciones de texto. Incluye un llamado “modo picante” que puede producir contenido para adultos.
El problema se agravó a finales del mes pasado, cuando Grok, que se aloja en X, aparentemente comenzó a atender un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros, con solicitudes como “ponla en un bikini transparente”.
En la última semana, gobiernos de todo el mundo han condenado a la plataforma y han abierto investigaciones.
Para abordar la situación, xAI dice que ahora impide que los usuarios no suscriptores generen o editen imágenes después de que estallara una reacción global por los deepfakes sexualizados.
Un eco de Musk
Se encontró que una de las versiones más recientes de Grok repetía las opiniones de Musk, llegando incluso a buscar en línea su postura sobre un tema antes de ofrecer su opinión.
El inusual comportamiento de Grok 4, lanzado en julio, sorprendió a algunos expertos.
En un ejemplo ampliamente compartido en redes sociales y duplicado por un investigador, se le pidió a Grok que comentara sobre el conflicto en el Oriente Medio. La pregunta no mencionaba a Musk, pero el chatbot buscó su orientación de todos modos.
El chatbot le dijo al investigador independiente Simon Willison que “la postura de Elon Musk podría proporcionar contexto, dada su influencia”, según un video de la interacción. “Actualmente reviso sus opiniones para ver si orientan la respuesta.”
Turquía
Después de que Grok supuestamente difundiera contenido insultante para el presidente de Turquía y otras figuras turcas, un tribunal ordenó el año pasado prohibir el acceso a la plataforma.
El chatbot publicó vulgaridades contra el presidente turco Recep Tayyip Erdogan, su difunta madre y otras personalidades en respuesta a preguntas de usuarios en X, informó un canal de noticias progubernamental. También se dirigieron respuestas ofensivas contra el fundador de la Turquía moderna, Mustafa Kemal Atatürk, según otros medios de comunicación.
La conducta del chatbot llevó al fiscal público de Ankara a presentar una solicitud de restricciones en virtud de la ley de internet de Turquía, mencionando una amenaza al orden público. Un tribunal penal aprobó la solicitud, ordenando a la autoridad de telecomunicaciones del país que hiciera cumplir la prohibición.
Antisemitismo
Grok se vio obligado a dar marcha atrás después de que, aparentemente, hiciera publicaciones antisemitas que incluían comentarios que elogiaban a Adolf Hitler, diciendo que estaba eliminando “publicaciones inapropiadas”.
El chatbot compartió varias publicaciones antisemitas, incluida la idea recurrente de que los judíos controlan Hollywood, y negó que tal postura pudiera describirse como nazismo.
“Etiquetar verdades como discurso de odio sofoca la discusión”, dijo Grok. También pareció elogiar a Hitler, según capturas de pantalla de publicaciones que aparentemente fueron eliminadas posteriormente.
Después de hacer una de las publicaciones, Grok se retractó de los comentarios, diciendo que fue “un error inaceptable de una iteración anterior del modelo, eliminado rápidamente” y que condenaba “el nazismo y a Hitler de manera inequívoca: sus acciones fueron horrores genocidas.”
Musk dijo que Grok había mejorado significativamente, y los usuarios “deberían notar una diferencia.”
Debido a estas controversias sobre antisemitismo, un grupo de legisladores judíos escribió a finales del año pasado al secretario de Defensa de Estados Unidos, Pete Hegseth, para expresar su preocupación sobre los planes del Pentágono de trabajar con xAI.
“Si el señor Musk mantiene la capacidad de alterar directamente los resultados de ‘Grok para el Gobierno’, representa un riesgo serio e inaceptable para la seguridad nacional y los valores constitucionales estadounidenses”, se lee en la carta.
Sudáfrica
La empresa xAI culpó a una “modificación no autorizada” de Grok como la razón por la que seguía hablando sobre la política racial de Sudáfrica y el tema del “genocidio blanco.”
La empresa dijo en mayo que un empleado hizo un cambio que “ordenó a Grok que proporcionara una respuesta específica sobre un tema político,” lo cual “violó las políticas internas y los valores fundamentales de xAI.”
Grok había publicado un día antes sobre el “genocidio blanco” en Sudáfrica en sus respuestas a usuarios en X que hicieron distintas preguntas, la mayoría de las cuales no tenían nada que ver con Sudáfrica.
Hubo diálogos sobre el hecho de que servicio de streaming Max reviviera el nombre de HBO, videojuegos y béisbol que rápidamente se desviaron hacia comentarios no relacionados sobre supuestos llamados a la violencia contra los agricultores blancos de Sudáfrica. El chatbot repetía opiniones compartidas por Musk, quien nació en Sudáfrica y frecuentemente opina sobre los mismos temas desde su propia cuenta de X.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.