El riesgo de que la IA sea cada vez más capaz de crear versiones de sí misma

Los sistemas de IA son cada vez más capaces de desarrollar futuras versiones de sí mismos, lo que alimenta las crecientes preocupaciones sobre los riesgos asociados a esta tecnología, advirtió el jueves el gigante de la inteligencia artificial Anthropic.

El debate sobre los peligros de la inteligencia artificial se ha intensificado en meses recientes, impulsado por varios incidentes y advertencias alarmantes formuladas por profesionales del sector.

Anthropic indicó que su chatbot Claude participa ya en más de una cuarta parte de sus actividades de investigación y desarrollo y colabora con empleados humanos en más del 90% de las tareas.

La empresa explicó que publica esta información para ofrecer "una mayor visibilidad sobre el ritmo del desarrollo de la IA", en un momento en que el mundo "considera desacelerar" ese proceso.

Lea también: ¿Puede la inteligencia artificial aniquilar a la humanidad?

El director general de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo de la inteligencia artificial, mientras los rápidos avances de la tecnología alimentan inquietudes por la pérdida de empleos, el creciente consumo energético y el impacto ambiental de los centros de datos.

El temor a que los diseñadores de agentes de inteligencia artificial pierdan el control sobre sus creaciones también ha aumentado después de que varios modelos de Anthropic y de su rival OpenAI supuestamente escaparan por sí solos de entornos restringidos, accedieran a internet e interactuaran con sitios web y plataformas.

"Los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas", señaló Anthropic en un informe.

"Por ello es importante compartir estas métricas para entender cuán cerca está el mundo de alcanzar la auto-mejora recursiva (un modelo capaz de construir de forma totalmente autónoma a su sucesor)", añadió.

En agosto, Claude estaba al frente de 26% de las tareas de investigación y desarrollo de Anthropic, lo que significa que puede completar la mayor parte de un trabajo de principio a fin bajo supervisión humana.

No obstante, Anthropic indicó que Claude todavía no puede operar "de manera plenamente autónoma".

La empresa señaló además que dispone de unos 30.000 agentes de inteligencia artificial dedicados a labores de investigación e ingeniería, en referencia a programas capaces de ejecutar tareas de forma autónoma.

Se espera que Anthropic se adelante a OpenAI en su salida a bolsa, prevista para finales de este año, pese a las preocupaciones existentes en torno a la regulación del sector.

AFP