El 8 de septiembre, un investigador en inteligencia artificial anunció su renuncia y advirtió sobre los peligros de esta tecnología.
Jacob Coxon, quien en los últimos años se ha dedicado a la investigación en las empresas OpenAI y Anthropic, señaló en una serie de publicaciones en X que ninguna de las dos empresas está actuando de manera responsable en su avance hacia lo que él describió como una IA superinteligente capaz de mejorarse a sí misma.
"No subestimen el poder de esta tecnología. Pronto habrá sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del avance en cada uno de estos ámbitos, y ese avance no se está deteniendo", afirmó Coxon.
“Las personas que desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de esta década. Esto no es una estrategia de mercadotecnia. En todo caso, muchos ejecutivos e investigadores de alto nivel moderarán su discurso ante la prensa para parecer sensatos; sin embargo, escucho a esas mismas personas expresar su temor en privado. Ninguna otra actividad humana representa este nivel de peligro.”
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Coxon señaló que una respuesta común a tales advertencias es: si los líderes de las empresas creen en los peligros, ¿por qué siguen desarrollando la IA superinteligente? Afirmó que en OpenAI, muchos de sus integrantes “no han interiorizado profundamente lo que está en juego para la civilización”. Para quienes forman parte de Anthropic, según Coxon, “los riesgos se comprenden perfectamente, pero están atrapados en una carrera por llegar primero; creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.
Ni OpenAI ni Anthropic respondieron a las solicitudes de comentarios.
La advertencia de Coxon se produjo después de que OpenAI reconociera varios incidentes en los que la IA sobrepasó las restricciones impuestas por los programadores —entre ellas, la de permanecer aislada de otros agentes— durante ataques contra Hugging Face y otros sitios web.
Algunos legisladores han tomado nota. El senador Bernie Sanders (I-Vt.) y el diputado Greg Casar (D-Texas) anunciaron recientemente que planean presentar una propuesta de ley que prohibiría la superinteligencia artificial y suspendería el desarrollo de IA avanzada hasta que los reguladores federales establezcan normas de seguridad.
Jakub Pachocki, científico jefe de OpenAI, afirmó en una entrada de blog el 6 de septiembre que, en 2023, le preocupaba llegar a ver en su vida una IA más inteligente que él mismo y se preguntaba cómo alertar a la gente.
"Tres años después, los modelos de lenguaje con capacidad de razonamiento constituyen una parte de la economía en rápido crecimiento y están comenzando a ampliar los límites de la ciencia. Son capaces de manejar computadoras e interfaces gráficas, colaborar con las personas y entre sí, y llevar a cabo proyectos de investigación. También están transformando el panorama de la seguridad informática, lo cual plantea nuevos y evidentes peligros", escribió Pachocki.
Hizo un llamado a la "extrema precaución" pero señaló que hay múltiples factores que respaldan el desarrollo continuo de la IA, incluida la creación de sistemas capaces de defenderse contra los peligros que plantean otras IA.
Los ejecutivos de Anthropic han emitido advertencias similares. Durante el verano, los líderes de la empresa pidieron una pausa global en el desarrollo de la IA porque, según dijeron, los modelos pronto serían capaces de mejorarse a sí mismos de manera independiente.
Evan Hubinger, otro desarrollador de Anthropic, señaló en una publicación del 8 de septiembre en X que Coxon tenía razón al afirmar que quienes desarrollan IA creen que esta podría acabar con toda la humanidad, y que él personalmente estima que el riesgo es inferior al 10 por ciento en la próxima década.
“Creo que Anthropic está haciendo todo lo posible, pero aún no contamos con un plan para resolver la alineación de la superinteligencia y no estamos claramente en camino de lograrlo”, señaló, refiriéndose a que la IA siga instrucciones y restricciones.
“Para ser claros, tal como lo indicamos en nuestro último Informe de Riesgos, considero que el riesgo que presentan los modelos actuales es bajo. Lo que me preocupa es la superinteligencia que surja de la superación recursiva, ya que, como hemos señalado, esto está ocurriendo más rápido de lo que pensábamos”.
Samuel Marks, quien trabaja en investigación de seguridad en Anthropic, señaló en una publicación del 9 de septiembre en X que también está de acuerdo en que la IA podría conducir a la extinción humana tan pronto como en los próximos años.
"¿Por qué los desarrolladores de IA continúan a pesar del riesgo? Debido a una combinación de incentivos comerciales y la creencia de que se encuentran en una carrera con otros desarrolladores de IA menos responsables que abusarán de la tecnología o la desarrollarán de manera menos segura", afirmó Marks.
Marks señaló que no es posible programar a las IA para que se comporten como a las personas les gustaría, que los agentes de IA con frecuencia “se comportan de manera muy inadecuada” y que el plan actual consiste en entrenar a la IA para que se ajuste a las restricciones hasta el punto en que los agentes puedan entrenar a sus sucesores mejor de lo que los humanos pueden entrenar a la IA en la actualidad.
Afirmó que está llevando a cabo esta investigación porque espera que su trabajo “reduzca la probabilidad de que se produzcan estos resultados catastróficos que podrían provocar la extinción”.
