Ex empleado de OpenAI advierte: La IA es un Titanic a punto de hundirse
La creciente preocupación sobre los riesgos de la inteligencia artificial sigue ganando voces dentro de OpenAI. William Saunders, quien trabajó en el equipo de super alineación de la compañía, ha expresado su inquietud por las posibles consecuencias catastróficas de estos modelos avanzados. Según Saunders, en tan solo tres años podríamos enfrentar un “Titanic de la IA”.
En una reciente entrevista con la cuenta especializada @chatgptricks, Saunders explicó que su equipo tenía la tarea de garantizar que los modelos de IA actuaran en beneficio de los intereses humanos. Sin embargo, decidió dejar la empresa en febrero de 2024 tras percibir una gestión inadecuada de los riesgos asociados a la tecnología.
El ex empleado comparó la confianza excesiva en la IA con la percepción de invulnerabilidad que rodeaba al Titanic antes de su hundimiento. “Nos manipulará y no nos daremos cuenta”, advirtió, señalando que la humanidad no está preparada para enfrentar escenarios en los que la IA evolucione sin control o tome decisiones que podrían afectarnos negativamente.
El impacto de la IA en las decisiones humanas
Saunders también alertó sobre el potencial de la IA para influir en decisiones críticas de manera imperceptible, sin que los usuarios sean conscientes de ello. En su opinión, OpenAI no está abordando este problema con la seriedad necesaria y prioriza sus intereses comerciales sobre la seguridad de los usuarios.
No es el único que ha manifestado estas preocupaciones. Otros empleados de OpenAI han abandonado la empresa o han sido despedidos tras cuestionar la dirección en la que se está desarrollando la inteligencia artificial.
Por su parte, Sam Altman, CEO de OpenAI, ha reconocido que en los próximos años presenciaremos avances significativos en este campo. Según él, nos estamos acercando a una inteligencia artificial general, un hito que plantea tanto oportunidades como desafíos en términos de control y seguridad.
La advertencia de Saunders refleja el debate en curso sobre hasta qué punto la IA puede evolucionar de manera autónoma y qué medidas deben tomarse para garantizar que su desarrollo sea seguro y alineado con los intereses de la humanidad.
Más noticias de Colombia y el mundo en Ya Celacanto
