“La IA podría matarnos a todos para finales de la década”: alerta de investigador

Jacob Coxon, investigador especializado en seguridad de inteligencia artificial, anunció su renuncia a Anthropic y lanzó una fuerte advertencia sobre el rumbo que están tomando las compañías que desarrollan esta tecnología.

Según afirmó, los principales laboratorios avanzan hacia una superinteligencia capaz de superar ampliamente las capacidades humanas y adquirir poder y recursos reales.

Coxon aseguró que durante los últimos tres años realizó investigación de preentrenamiento tanto en OpenAI como en Anthropic y cuestionó el comportamiento de ambas compañías.

“Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, escribió en un hilo publicado en X.

El investigador sostuvo que no debe subestimarse la velocidad con la que avanzan estos sistemas y planteó un escenario en el que podrían alcanzar capacidades sobrehumanas en diferentes áreas.

“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, afirmó.

“Esto no es un truco de marketing”

Una de las afirmaciones más fuertes de Coxon está relacionada con la percepción que, según él, existe dentro de las propias compañías sobre los riesgos de la inteligencia artificial.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, escribió.

Según su relato, algunos ejecutivos e investigadores senior moderan públicamente la forma en que hablan sobre estos riesgos, pero expresan preocupaciones mayores en conversaciones privadas.

“Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, aseguró.

Coxon también abordó una pregunta que, según dijo, surge frente a estas advertencias: si quienes desarrollan inteligencia artificial consideran que existe semejante riesgo, ¿por qué continúan trabajando para aumentar sus capacidades?

Una carrera por desarrollar primero la superinteligencia

El investigador diferenció lo que, según su experiencia, ocurre dentro de OpenAI y Anthropic.

“En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, afirmó.

Coxon cuestionó que decisiones de esta magnitud puedan quedar exclusivamente en manos de compañías privadas y calificó como una apuesta aceptar la carrera hacia lo que denominó el “endgame”.

El investigador, sin embargo, afirmó que mantiene optimismo frente a la posibilidad de lograr coordinación entre los actores involucrados.

Señaló que episodios como el ataque a Hugging Face hicieron más viables los acuerdos sobre el ritmo de desarrollo entre laboratorios estadounidenses.

También planteó que evitar una carrera global podría requerir medidas de alto costo, entre ellas una prohibición temporal de seguir aumentando las capacidades de los modelos.

Finalmente, Coxon dirigió un mensaje a otros investigadores que trabajan en laboratorios de inteligencia artificial y los invitó a cuestionar la idea de continuar desarrollando estos sistemas simplemente porque otros también lo harán.

“¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’ —o aprovechar este momento para pedir condiciones diferentes?”, concluyó.

Comments