Un exinvestigador de Anthropic advirtió sobre los riesgos de la IA y desató un debate en el sector
Jacob Coxon, un investigador de inteligencia artificial que renunció a la empresa Anthropic, declaró a la BBC que quienes trabajan en esta tecnología sienten un «miedo genuino» ante la velocidad de sus avances y lo que podría suponer para la humanidad. «Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato», afirmó. Sus declaraciones llegaron después de que una publicación suya sobre los peligros de la IA, difundida tras su renuncia, se volviera viral en un contexto de creciente preocupación por la seguridad en el sector.
El pedido de frenar el ritmo
El exjefe de Coxon, Dario Amodei, director de Anthropic, pidió recientemente que se ralentizara el desarrollo de la IA, aunque algunos cuestionaron las motivaciones detrás de esa petición. Los líderes de dos empresas rivales, Sam Altman (OpenAI) y Elon Musk (xAI), expresaron su acuerdo con la propuesta, así como con establecer regulaciones en todo el sector e implementar una supervisión independiente del desarrollo de modelos. En un artículo publicado el sábado, Amodei señaló que el desarrollo de la tecnología no estaba en entredicho, pero que los riesgos asociados eran «graves» y que era necesario conceder tiempo a empresas y gobiernos para abordarlos.
Coxon, que trabajó en OpenAI antes de incorporarse a Anthropic, recibió con satisfacción la propuesta, aunque advirtió que debería coordinarse con China para evitar «una carrera a escala internacional». En el programa Sunday con Laura Kuenssberg sostuvo que quienes trabajan en estas compañías hablan muy en serio cuando piden regulación, porque se sienten atrapados en una carrera cuyas consecuencias temen. Entre los riesgos que Amodei había señalado figuraba la posibilidad de que un enjambre de bots actuara como una supercomputadora capaz de tomar el control de internet, un escenario que, según Coxon, podría materializarse en un plazo de seis meses a un año.
La respuesta de la empresa
Un portavoz de Anthropic declaró a BBC News que la compañía siempre fue transparente al afirmar que la IA traerá «tanto enormes beneficios como riesgos sin precedentes», y que para abordarlos sigue desarrollando modelos con algunas de las medidas de seguridad más sólidas del sector. Según detalló, la empresa fue pionera en el estudio del funcionamiento de los modelos de IA y la primera en publicar un marco para mitigar los riesgos de su desarrollo, además de someter sus modelos a pruebas rigurosas y publicar los resultados para facilitar el escrutinio y prevenir incidentes de «desalineación de la IA». Por esa misma razón, agregó el vocero, la compañía cree que el mundo se beneficiaría si el sector adoptara una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de modelos potentes.
El clima interno y las voces que acompañan
Coxon relató que sus colegas temían que el peligro pudiera manifestarse incluso en los próximos dos años, y que el personal de las empresas de IA estaba «planificando qué hacer con sus vidas y reflexionando sobre el impacto de su trabajo», al punto de que algunos consideraban comprar terrenos por el temor a la inestabilidad derivada del rápido avance de la tecnología. De todos modos, también se mostró optimista al señalar que los investigadores del área «realmente quieren ver el lado positivo», como la posibilidad de curar enfermedades y mejorar la vida de todos.
Otras figuras del sector acompañaron la preocupación. Evan Hubinger, científico de Anthropic, afirmó: «Realmente creemos con total sinceridad que la IA podría acabar con todos los seres humanos. Personalmente, creo que existe una probabilidad superior al 10% de que esto ocurra en la próxima década». El informático y premio Nobel Geoffrey Hinton, conocido como el «padrino de la IA», declaró el viernes a la BBC que considerar una probabilidad del 10% de que la IA aniquile a la humanidad «no era descabellado». Marc Warner, director ejecutivo de la firma de seguridad de IA Faculty, dijo que resulta «extremadamente difícil asignar una probabilidad» a ese escenario, aunque remarcó que estas personas son sinceras en lo que dicen. El ex primer ministro británico Rishi Sunak, que se desempeña como asesor remunerado de Anthropic, escribió en el Sunday Times que también le preocupa el riesgo para la humanidad, pese a mostrarse generalmente optimista.
Las críticas: exageración o estrategia
Algunas figuras del sector sugirieron que estos comentarios son exagerados o que podrían buscar generar expectación. Clement Delangue, director ejecutivo de la plataforma Hugging Face, comparó en redes sociales el hecho de consultar a Coxon sobre el riesgo de extinción con «preguntar al técnico del aire acondicionado sobre el cambio climático», aunque tras la publicación del ensayo de Amodei se ofreció a colaborar en las posibles soluciones. George Arison, director ejecutivo de Grindr, planteó a la BBC que las declaraciones de Anthropic y otras empresas buscaban captar el apoyo de los inversores, ya que —según sostuvo— la única forma de justificar esas valoraciones es afirmar que la IA dominará todos los sectores y todos los empleos. Jensen Huang, director ejecutivo de Nvidia, desestimó las afirmaciones de Coxon por considerarlas falsas durante una conferencia organizada por Goldman Sachs, según relataron a la BBC varios asistentes.
Otros críticos sostienen que Anthropic intentó impulsar medidas regulatorias para frenar a la competencia, lo que dejaría a la empresa y a OpenAI en una situación de duopolio. Según informes, la compañía se prepara para una oferta pública inicial que podría batir récords y permitiría al público adquirir acciones. En paralelo, el presidente de Estados Unidos, Donald Trump, declaró el domingo que su país lleva ventaja sobre China en materia de IA: «Francamente, quiero que siga siendo así. Porque quien gana en IA, gana en todo».
