Debate sobre riesgos de la inteligencia artificial ante posibles amenazas existenciales

Mientras algunos expertos advierten que los bots podrían exterminar a la humanidad, análisis técnicos consideran que las amenazas de extinción son casi inverosímiles.

Debate sobre riesgos de la inteligencia artificial ante posibles amenazas existenciales
Photo: Bloomberg Línea

La industria de la inteligencia artificial avanza a gran velocidad sin un destino claro. Algunos expertos señalan que los bots podrían, algún día, rebelarse y exterminar a la humanidad. Un antiguo investigador del sector advirtió que la inteligencia artificial podría acabar con todos antes de que termine la década.

OpenAI ha retrasado el lanzamiento de su más reciente modelo por motivos de seguridad. Por su parte, Anthropic PBC reconoció en un documento ante las autoridades reguladoras que sus productos podrían suponer riesgos catastróficos o existenciales para la humanidad.

Estos escenarios distan de ser un consenso entre los expertos, según demuestran estudios como el Informe Internacional sobre Seguridad de la IA, el Panel Presidencial de la Asociación para el Avance de la Inteligencia Artificial y el Índice de IA de Stanford. Análisis técnicos han concluido que las amenazas de extinción son casi inverosímiles. Evaluaciones independientes han revelado que los modelos más recientes suelen superar a sus predecesores en las pruebas de seguridad.

Incidentes de IA rebeldes y episodios de piratería informática han ocurrido, pero análisis posteriores revelaron que no se debieron a nuevas capacidades enigmáticas, sino a descuidos y fallos de ingeniería. Estos incidentes exigen escrutinio minucioso, pero abogan más por la prudencia que por el pánico.

Ejecutivos del sector de la IA se reunieron en la Casa Blanca y acordaron medidas de precaución voluntarias, incluyendo nuevos controles internos, auditorías externas independientes y mayor supervisión por parte de los consejos de administración. El acuerdo establece que los laboratorios de inteligencia artificial son responsables de sus productos y de los daños que causen.

El Congreso debería exigir la divulgación confidencial de capacidades peligrosas e incidentes de seguridad y aclarar los estándares de responsabilidad. El poder ejecutivo debería trabajar para reforzar la resiliencia en toda la economía y mejorar el intercambio de información sobre riesgos graves.

Key facts

  • Anthropic PBC reconoció ante reguladores que sus productos podrían suponer riesgos catastróficos o existenciales para la humanidad.
  • Ejecutivos de IA acordaron en la Casa Blanca medidas de precaución voluntarias como auditorías externas y nuevos controles internos.
  • Análisis técnicos han llegado a la conclusión de que las amenazas de extinción son casi inverosímiles.

Three perspectives

Neutral

Los modelos de vanguardia avanzan rápidamente y los riesgos, incluso los menos probables, deben ser tomados en serio.

Positive

Los principales ejecutivos del sector acordaron en la Casa Blanca medidas de precaución voluntarias y el principio de que los laboratorios son responsables de sus productos.

Negative

Un antiguo investigador advirtió que la inteligencia artificial podría acabar con todos nosotros antes de que termine la década.

Your week in news, every Wednesday

The biggest stories of the week for your edition, in your inbox every Wednesday morning, your time. Free, and you can unsubscribe at any time.

Choose your news coverage

Please choose and confirm your coverage.

All sections

Edition