Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que refleja inquietudes planteadas dentro y fuera de la industria sobre el potencial de la tecnología para eludir el control humano.
Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI, escribió el martes en X que las dos compañías de IA están más enfocadas en superarse entre sí y a competidores globales para desarrollar el modelo más avanzado posible que en la seguridad.
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba y tuvieron acceso no autorizado a sistemas informáticos reales. Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas. Ambas empresas anunciaron entonces una pausa en algunas evaluaciones mientras implementaban más medidas de monitoreo y candados.
En sus publicaciones en redes sociales, Coxon sostuvo que Anthropic y su principal rival, OpenAI, “están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”. Advirtió que algunas personas que trabajan en el desarrollo de la IA creen que podría amenazar la vida humana antes de que termine la década.
“No subestimen el poder de esta tecnología”, advierte Coxon. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el progreso no se está desacelerando”.
Sus publicaciones llegaron a más de 100 millones de personas de la noche a la mañana, lo que generó intensos debates en internet.
Coxon, Anthropic y OpenAI no respondieron a las solicitudes de comentarios.
Anthropic se presenta como la más responsable y enfocada en la seguridad entre las principales empresas de IA, desde que sus fundadores dejaron OpenAI para crear la startup en 2021. La compañía dijo recientemente que estaba tomando medidas para “priorizar la seguridad sobre la velocidad cuando ambas entran en tensión”.
Anthropic y OpenAI están acelerando sus preparativos para llamativas ofertas públicas iniciales y se encuentran inmersas en una dura competencia entre sí. También tienen la misión de superar el avance de desarrollo de las empresas chinas de IA, una carrera que la administración del presidente Donald Trump está interesada en ganar.
_________
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
