La IA podría representar un riesgo de la misma escala que la guerra nuclear [Archivo]

St3phon

05-11-2023, 19:03:08

La IA podría representar un riesgo de la misma escala que la guerra nuclear, advierte el primer ministro del Reino Unido

Si ha prestado atención a las noticias de los últimos meses, es probable que haya oído hablar de los peligros que la IA representa para la humanidad. Algunos creen que la IA podría derrocar a la humanidad si tuvieran la oportunidad, mientras que otros creen que todo eso es sólo una tontería. Ahora, durante una cumbre mundial sobre seguridad de la IA, el primer ministro del Reino Unido pidió a los líderes nacionales que intensifiquen su juego y protejan a la humanidad de los peligros de la IA.

El primer ministro, Rishi Sunak, afirma que el riesgo que plantea la IA es de la misma escala que el de una pandemia o una guerra nuclear, informa The Guardian. Sunak dice que le preocupa el riesgo que la IA representa para el público a medida que se lanzan modelos de IA cada vez más avanzados. Hemos visto advertencias similares del padrino de la IA de que la IA podría tomar el control si los humanos no tienen cuidado.

No importa dónde se encuentre en ese espectro, los líderes mundiales se apresuran a encontrar alguna manera de poner sus manos en el volante de los avances de la IA. Y ahí es donde entra en juego esta nueva cumbre global sobre seguridad de la IA. Es en esta cumbre donde Sunak espera convencer a los líderes de Estados Unidos y otros países de trabajar juntos para garantizar que las herramientas públicas de IA sean seguras antes de su lanzamiento, controlando así el riesgo de peligro que la IA ofrece al mundo.

robot de punto
Los líderes nacionales piden algún tipo de sistema de seguridad para garantizar que los riesgos de la IA se mantengan bajo control. Fuente de la imagen: Boston Dynamics
No está claro qué implica eso exactamente. Sin embargo, es imposible evitar los muchos problemas que ofrecen los modelos de IA como ChatGPT. No sólo tienden a inventar cosas, algo que los investigadores de IA llaman "alucinantes", sino que también han demostrado una utilidad excepcional para sortear barreras como muros de pago y otras cosas en el pasado.

Claro, OpenAI y otros se han tomado el tiempo para solucionar esas áreas problemáticas, pero todavía existen de una forma u otra en todos los ámbitos. Entonces, ¿cómo planean los líderes mundiales garantizar que la IA sea segura y no conspire para derrocar a la humanidad? Esa es la bola curva. Nadie tiene un plan de juego importante todavía.

Sunak también hablará junto a Elon Musk en algún momento de esta semana sobre los riesgos y peligros actuales de la IA, lo cual es interesante, considerando los planes de Musk de fusionar la IA y la humanidad en una sola entidad perforando agujeros en nuestros cráneos e instalando implantes cerebrales. Aún no está claro si las otras naciones seguirán a Sunak y propondrán algunas medidas de seguridad. Pero supongo que al menos alguien lo está intentando.