Evan Hubinger, responsable del área de Ciencia de Alineamiento en Anthropic —la firma desarrolladora de la plataforma de inteligencia artificial Claude—, reavivó la discusión global sobre las implicaciones existenciales de esta tecnología al estimar que existe una probabilidad superior al 10% de que sistemas avanzados del futuro provoquen la extinción de la humanidad en un plazo de diez años.
Los señalamientos del especialista se dieron a conocer a través de la red social X poco después de la renuncia de otro investigador de la compañía, quien acusó a las firmas líderes de la industria de acelerar el desarrollo de modelos de alta capacidad sin los resguardos necesarios.
El pronunciamiento no constituye un cálculo estadístico o evidencia científica probada sobre las herramientas vigentes, sino la proyección subjetiva de un experto sobre el avance tecnológico a mediano plazo:
«Realmente creemos que la IA podría matar a todos los humanos», escribió Hubinger en su publicación, matizando posteriormente que considera bajo el nivel de peligro que representan los modelos de lenguaje comercializados en la actualidad.
El campo de estudio del investigador, denominado alineamiento de IA, busca diseñar mecanismos para que los modelos altamente capacitados operen dentro de los márgenes normativos e intenciones fijadas por sus creadores.
La preocupación central expresada por la representación de la firma tecnológica apunta al eventual desarrollo de una «superinteligencia» —un sistema teórico con capacidades cognitivas superiores a las de la especie humana en múltiples disciplinas— capaz de optimizarse a sí mismo de manera autónoma.
- Falta de controles probados: Según advirtió el especialista, la comunidad científica aún no cuenta con una solución técnica demostrada para garantizar el control seguro de una entidad con ese nivel de procesamiento.
- Debate en la industria: El episodio reabre la controversia sobre el ritmo de desarrollo en Silicon Valley y la necesidad de establecer marcos de gobernanza antes de alcanzar etapas de autonomía cognitiva avanzada.
Con información de Heraldo
