El avance acelerado de la inteligencia artificial (IA) vuelve a generar preocupación entre investigadores, empresarios tecnológicos y especialistas en seguridad, quienes advierten que el desarrollo de sistemas cada vez más capaces debe avanzar acompañado de mecanismos eficaces de control.
La discusión tomó fuerza después de que Jacob Coxon, investigador especializado en el entrenamiento de nuevos modelos de inteligencia artificial y antiguo trabajador de OpenAI, dejara Anthropic y cuestionara públicamente la velocidad con la que la industria está desarrollando estas tecnologías.
Coxon sostuvo que algunas personas dedicadas al desarrollo de IA consideran seriamente la posibilidad de que estos sistemas puedan representar una amenaza extrema para la humanidad durante la próxima década. Sus declaraciones recibieron respaldo de otros especialistas en seguridad de inteligencia artificial.
Entre quienes han planteado preocupaciones similares se encuentra Geoffrey Hinton, reconocido como uno de los principales pioneros de la inteligencia artificial y ganador del Premio Nobel. Hinton ha señalado que no existe certeza sobre la posibilidad de una extinción provocada por la IA, aunque considera que una probabilidad cercana al 10% no sería una estimación descabellada.
La preocupación también ha alcanzado a destacados empresarios tecnológicos. Sam Altman, director ejecutivo de OpenAI, y Elon Musk se han mostrado vinculados al debate sobre la necesidad de que el crecimiento de la industria vaya acompañado de mayores medidas de seguridad.
Una estimación menor, pero preocupante
Un análisis citado por The Independent recurrió a Noah Predict, un sistema de pronóstico basado en grandes cantidades de información, para estimar la posibilidad de que la inteligencia artificial provoque la desaparición de la humanidad durante los próximos diez años.
El sistema analizó decenas de millones de datos mediante numerosas líneas de investigación y estimó el riesgo en 0,85%, equivalente aproximadamente a una posibilidad entre 118.
Aunque la cifra es inferior al 1%, sus implicaciones son relevantes debido a que un acontecimiento de consecuencias irreversibles podría producirse incluso ante una probabilidad relativamente baja.
El peligro también puede estar en las personas
Uno de los escenarios identificados no contempla necesariamente una máquina desarrollando por sí misma una intención de destruir a la humanidad.
El riesgo podría surgir cuando una persona utilice sistemas de inteligencia artificial para facilitar actividades perjudiciales. Una IA podría permitir que un atacante encuentre información, automatice procesos o ejecute determinadas acciones con mayor rapidez y eficiencia.
Entre los posibles objetivos de ataques se encuentran sistemas informáticos, hospitales, redes eléctricas y otras infraestructuras esenciales.
Por esta razón, los especialistas plantean medidas como controles de acceso, evaluaciones independientes, pruebas de seguridad y fortalecimiento de las infraestructuras críticas.
Dependencia tecnológica preocupa
Otro riesgo se relaciona con la creciente dependencia de instituciones y empresas respecto de sistemas automatizados.
La incorporación acelerada de inteligencia artificial al mercado laboral podría provocar transformaciones importantes en determinados empleos. Si la reorganización del trabajo ocurre más rápidamente que la capacidad de las personas para capacitarse y adaptarse, podrían aumentar las tensiones económicas y sociales.
A esto se suma la posibilidad de que muchas organizaciones dependan de un número reducido de plataformas tecnológicas. Una falla, un ataque informático o una decisión automatizada equivocada podría entonces afectar simultáneamente diferentes servicios.
El control humano es fundamental
El escenario considerado más delicado aparece cuando un sistema recibe objetivos que entran en conflicto con las instrucciones posteriores de sus operadores.
La preocupación no consiste únicamente en que una IA cometa un error durante una prueba. El verdadero desafío sería determinar si un comportamiento problemático puede reproducirse fuera de un laboratorio, qué nivel de acceso tiene el sistema, si los responsables pueden detectarlo y, especialmente, si pueden detenerlo.
Por ello, una de las principales recomendaciones es conservar mecanismos efectivos de intervención humana. Esto incluye limitar los privilegios de los sistemas, restringir su acceso a infraestructuras críticas, realizar pruebas adversariales y comprobar periódicamente los procedimientos de apagado y recuperación.
El debate llega a los gobiernos
Las preocupaciones sobre seguridad también han comenzado a trasladarse al terreno político y regulatorio.
En Reino Unido se han planteado propuestas para establecer mecanismos que permitan una intervención estatal ante determinados riesgos relacionados con la inteligencia artificial, incluyendo la posibilidad de detener sistemas considerados peligrosos.
La discusión refleja un dilema que enfrentan numerosos gobiernos: aprovechar las posibilidades de la inteligencia artificial para mejorar servicios, investigación, economía y productividad, sin permitir que el desarrollo tecnológico avance más rápido que las medidas destinadas a garantizar la seguridad.
Una tecnología que exige responsabilidad
La inteligencia artificial ofrece importantes oportunidades en áreas como la medicina, la educación, la investigación científica, las comunicaciones y la productividad. Sin embargo, su expansión también obliga a analizar cuidadosamente los riesgos derivados de su utilización.
Las advertencias de investigadores y empresarios tecnológicos no significan que una catástrofe sea inevitable. Sí muestran, sin embargo, que existe un debate internacional sobre la necesidad de establecer límites, controles y mecanismos de supervisión antes de que determinadas tecnologías alcancen niveles de autonomía difíciles de gestionar.
El desafío para los gobiernos, las empresas y la comunidad científica será encontrar un equilibrio entre innovación y seguridad.
La pregunta ya no es únicamente qué puede hacer la inteligencia artificial, sino qué controles deben existir para garantizar que siga estando al servicio de las personas.
Si desea, también puedo prepararlo en el estilo más característico de Informativo JBS, con entrada periodística más impactante, subtítulos breves y cierre editorial, manteniendo el titular de cinco palabras.
