La empresa de inteligencia artificial Anthropic propuso la creación de un mecanismo internacional que permita detener o ralentizar, de manera coordinada, el desarrollo de sistemas de IA cada vez más avanzados, ante la preocupación de que la tecnología evolucione más rápido que la capacidad humana para supervisarla.
La compañía, desarrolladora del asistente de IA Claude, considera que contar con una herramienta de pausa temporal podría ayudar a que las investigaciones sobre seguridad y regulación avancen al mismo ritmo que los nuevos modelos de inteligencia artificial.
Según la firma, los sistemas actuales muestran progresos acelerados en tareas complejas, especialmente en áreas relacionadas con el desarrollo de software y programación. De mantenerse esta tendencia, en el futuro podrían surgir modelos capaces de diseñar versiones más avanzadas de sí mismos, un fenómeno conocido como "automejora recursiva".
Anthropic reconoce que este tipo de avances podría generar beneficios importantes en campos como la ciencia, la medicina y la innovación tecnológica. Sin embargo, advierte que también incrementaría los desafíos para garantizar que la IA continúe actuando conforme a los intereses y valores humanos.
Te puede interesar
Senado de EU aprueba 70 millones de dólares para ofensiva migratoria de Trump
La propuesta contempla una coordinación entre los principales laboratorios de inteligencia artificial del mundo para verificar que cualquier desaceleración sea cumplida por todos los participantes, evitando que empresas o gobiernos aprovechen una pausa para avanzar de manera secreta y obtener ventajas competitivas.
El planteamiento surge en medio de un creciente debate internacional sobre la seguridad de la inteligencia artificial. Recientemente, investigadores de la Universidad de Toronto alertaron sobre la posibilidad de que herramientas de IA sean utilizadas para crear nuevas amenazas cibernéticas capaces de adaptarse y expandirse automáticamente en redes informáticas.
Anthropic sostiene que la creación de reglas globales y mecanismos de supervisión será fundamental para equilibrar la innovación tecnológica con la seguridad, en un contexto donde la carrera por desarrollar sistemas más potentes se intensifica entre las principales compañías del sector.
No te pierdas ninguna actualización importante. Explora nuestro portal para seguir informado sobre las últimas noticias en Puebla.
Foto: Especial
cdch