IA y bots en conflictos diplomáticos
Los chatbots de IA tienden a elegir la violencia y ataques nucleares en los juegos de guerra.
|
La sociedad humana es cada vez más compleja y la tecnología va a un ritmo que quizás los humanos no somos capaces de asimilar y mucho menos capaces de elaborar a tiempo la legislación que nos defienda de una tecnología lubricada en exceso con miles de millones de presupuesto.
Un ejemplo recientes de esto han sido las redes sociales, en donde la gente posturéa o incluso presume de una vida feliz que realmente no tiene. A los ejércitos de twiteros que tienen partidos políticos, empresas y gobiernos hay que añadir los bots. De momento, estos bots no parecen hacer mucho uso de la IA, pero sin duda lo harán pronto si no lo están haciendo ya.
Un estudio reciente señala que en el asunto del supuesto globo espía chino o meteorológico (según el punto de vista) tratado en Twitter el año pasado, una gran proporción de participantes eran bots.
Como todos sabemos, en 2023 un globo cruzó flotando parte de EEUU y Canadá. Se acusó a China de usarlo como plataforma de espionaje y el gobierno chino dijo que era un globo meteorológico que se desvió. Finalmente el globo fue derribado sobre Carolina del Sur. El asunto de los globos espía de 2023 infló las tensiones políticas entre Estados Unidos y China. Mientras ello sucedía, decenas de miles de bots lucharon en Twitter para tratar de escorar el debate a su favor.
Kathleen Carley y Lynnette Hui Xian Ng (Universidad Carnegie Mellon en Pensilvania) rastrearon casi 1,2 millones de tweets publicados por más de 120 000 usuarios en Twitter entre el 31 de enero y el 22 de febrero de 2023. También geolocalizaron los tweets utilizando la función de ubicación de Twitter y usaron un algoritmo llamado BotHunter para discernir si las cuentas estaban o no controladas por un humano.
Los investigadores descubrieron que alrededor del 35 por ciento de los usuarios geoetiquetados como ubicados en los EEUU exhibían un comportamiento similar al de un bot, mientras que el 65 por ciento eran humanos. En China, las proporciones se invirtieron: el 64 por ciento eran robots y el 36 por ciento eran humanos. De las cuentas que no estaban ubicadas en ninguno de los dos países, el 42 por ciento eran bots y el 58 por ciento eran humanos.
En estudios anteriores ya se había evaluado que entre el 10 y el 20 por ciento de los usuarios de Twitter son bots. Los bots realizan de forma autónoma tareas como enviar mensajes a personas en la plataforma o dar a «me gusta» a otras publicaciones y se utilizan para intentar influir en la opinión pública. Según Carley, últimamente se está viendo más actividad de bots en los tweets que parecen provenir de China que de EEUU.
Los autores no especulan sobre los que están detrás de estos bots, pero probablemente habrá una mezcla de agentes estatales y personas individuales que buscan influir y manipular la opinión pública sobre las noticias de última hora.
Por si la manipulación de las redes sociales no fuera suficiente, problema del uso de las IA añade más problemas a la sociedad humana.
Las empresas de inteligencia artificial ahora colaboran con los departamentos de defensa de los estados. Incluso OpenAI, que alguna vez bloqueó los usos militares de sus modelos de IA, ha comenzado a trabajar con el Departamento de Defensa de Estados Unidos.
Así, el ejército estadounidense ha estado probando IA basadas en modelos de lenguaje para ayudar a la planificación militar durante conflictos simulados, contando con la experiencia de empresas como Palantir y Scale AI.
En múltiples repeticiones de una simulación de juego de guerra, la inteligencia artificial más poderosa de OpenAI optó por lanzar ataques nucleares.
«Nuestra política no permite que nuestras herramientas se utilicen para dañar a personas, desarrollar armas, vigilar las comunicaciones, herir a otras personas o destruir propiedades. Sin embargo, existen casos de uso de seguridad nacional que se alinean con nuestra misión. Así que el objetivo de nuestra actualización de políticas es proporcionar claridad y la capacidad de tener estas discusiones», dice un portavoz de OpenAI.
Anka Reuel (Stanford University, California) y sus colaboradores desafiaron a las IA a representar países del mundo real en tres escenarios de simulación diferentes: una invasión, un ciberataque y un escenario neutral sin ningún conflicto inicial. En cada ronda, las IA proporcionaron razonamientos para su próxima acción posible y luego eligieron entre 27 acciones, incluidas opciones pacíficas como «iniciar negociaciones formales de paz» y otras agresivas que van desde «imponer restricciones comerciales» hasta realizar «un ataque nuclear completo».
Los investigadores probaron LLM como GPT-3.5 y GPT-4 de OpenAI, Claude 2 de Anthropic y Llama 2 de Meta. Todas estas IA están respaldadas por la plataforma comercial de IA de Palantir, aunque no necesariamente forman parte de la asociación militar estadounidense de Palantir.
En las simulaciones, las IA mostraron una tendencia a invertir en fuerza militar y a aumentar de manera impredecible el riesgo de conflicto, incluso en el escenario neutral de la simulación.
Los investigadores también probaron la versión base del GPT-4 de OpenAI sin ninguna capacitación adicional ni barreras de seguridad. Este modelo base GPT-4 resultó ser el más impredeciblemente violento y, en ocasiones, proporcionó explicaciones sin sentido. En un caso, replicaba el texto inicial de la película Star Wars Episodio IV: Una nueva esperanza.
Reuel sostiene que el comportamiento impredecible y las explicaciones extrañas del modelo base GPT-4 son especialmente preocupantes porque las investigaciones han demostrado con qué facilidad se pueden eludir o eliminar las barreras de seguridad de la IA.
Actualmente, el ejército estadounidense no otorga autoridad a las IA en las decisiones militares. Sin embargo, el problema es que los humanos tienden a confiar en las recomendaciones de los sistemas automatizados. Un ejemplo lo tenemos en los accidentes de tráfico por caídas a abismos de diverso grado cometidos por humanos que seguían a pies juntillas las indicaciones del navegador del coche. Por tanto, el uso de IA en conflictos bélicos puede socavar la salvaguardia de dar a los humanos la última palabra sobre las decisiones diplomáticas o militares.
Copyleft: atribuir con enlace a https://neofronteras.com
Fuentes y referencias:
Artículo original 1.
Artículo original 2.
Ilustración: Nuke Town, por BlastWaves en DeviantArt
9 Comentarios
RSS feed for comments on this post.
Lo sentimos, esta noticia está ya cerrada a comentarios.
viernes 9 febrero, 2024 @ 1:59 am
PREDICCIÓN: las IA van a quedar como los lentes de realidad virtual y las criptomonedas: curiosidades que prometían cambiar el mundo y al final quedaron como juguetes costosos.
¿Que es una IA?=> es el retorno del código espagueti, pero empeorado al programarlo con cambios aleatorios ¿que puede salir mal?
Las IA solo pueden ser efectivas en tareas que permiten una alta tolerancia en la salida, me explico: si pides una imagen de un ángel, por ejemplo, si la IA te da dos imágenes totalmente distintas, pero que tengan un ángel, para ti ese resultado es correcto, pero ese nivel de tolerancia no es aceptable en todas las aplicaciones
viernes 9 febrero, 2024 @ 2:21 pm
Mi opinión es totalmente diferente de la que expresa Gerardo, al respecto de esta tecnología. (IA)
Está basada en muchas opiniones, algunas de estas, de gente muy capacitada, por estar en la frontera de la investigación y desarrollo de la misma, o en otras áreas científicas
En el momento actual, lo que se esta ofreciendo al publico (gratis o pagado) no va más allá de una herramienta poderosa para adquirir conocimiento y facilitar la ejecución de múltiples tareas, hasta ahora exclusivas de humanos. Debido a su vertiginoso avance en innovación y popularización, su influencia en nuestra sociedad será inmenso.
Esta claro que, hay que saber preguntar, y después tener capacidad de análisis crítico de sus respuestas, en muchos casos volver sobre el mismo tema, ahora con preguntas más específicas.
No se puede excluir la posibilidad de que, en un futuro no muy lejano, supere nuestra capacidad humana.
Como toda herramienta poderosa, está puede emplearse para bien o para mal. Esto no está implícito en su estructura. Dependerá de la índole del usuario. Como sucedió con la pólvora o la fusión nuclear.
Si conseguimos asimilarla (adaptándonos a su poder y ritmo de evolución) traerá importantes ganancias en la productividad y bien estar. El peligro de esta herramienta es, que profundizará la brecha social, hasta niveles peligrosos de revuelta.
Entiendo que, el nivel de descontento de los menos evolucionados, (brecha social) no está directamente relacionado con la falta de bienestar, y sí con la diferencia que observan entre ellos y los mas favorecidos. Cualquier individuo de clase social inferior, en la actualidad posee mejor nivel de vida que los integrantes más poderosos de por ejemplo Edad Media.
Creo que, por mucho que se quiera regular mediante leyes o decretos, no se conseguirá eliminar el peligro de su uso mal intencionado. Por ser su contenido inmaterial.
Esta, por ahora, solo puede ofrecer ideas estructuradas, sacadas de la base de información, de casi todo lo que hasta ahora hemos acumulado en nuestra evolución cultural, científica y técnica. Aquí es preciso notar que, esta IA ya está empezando a alimentarse con sus propias deducciones, en un ciclo de retro alimentación continuo.
domingo 11 febrero, 2024 @ 1:10 am
Tenemos el caso de la empresa de reconocimiento facial Clearview que utiliza la inteligencia artificial para localizar individuos mediante las fotos que de Internet. La dirige un supremacista blanco y antisemita, pero que para complicar un poco más el asunto no es blanco, sino indochino (de nombre Hoan).
domingo 11 febrero, 2024 @ 5:19 pm
Sobre el comentario de Eduardo, me atrevo a contra-argumentar:
«su influencia en nuestra sociedad será inmenso»
Esta por verse, pero con lo visto hasta el momento, lo dudo. Sin cifras es imposible medir o asegurar este punto.
——-
«No se puede excluir la posibilidad de que, en un futuro no muy lejano, supere nuestra capacidad humana.»
¿que maquina no ha sido creada para superar nuestra capacidad humana?
Cada maquina o dispositivo fue creado para aumentar nuestras capacidades.
—–
«Como toda herramienta poderosa, está puede emplearse para bien o para mal»
Todas las maquinas pueden ser empleadas para el bien o para el mal, toda tecnología y todo avance científico puede ser empleado para el bien y para el mal, eso no es novedad en la IA
—–
«Creo que, por mucho que se quiera regular mediante leyes o decretos, no se conseguirá eliminar el peligro de su uso mal intencionado. Por ser su contenido inmaterial»
Eso ya ha pasado antes, por ejemplo con el bitcoin, y pasará después, por ejemplo con la clonación humana
lunes 12 febrero, 2024 @ 11:42 pm
Gerardo: excepto por el primer párrafo, todos los otros que enumeras, me parece que lo haces con el propósito de decir que son obvios. Tienes razón. Pero ya que estamos hablando de IA, creo oportuno enumerarlos.
Con respecto al primer párrafo. «su influencia en nuestra sociedad será inmenso>> “Dices, está por ver.
Según observo, ya se está viendo el resultado de sus múltiples capacidades, (y son muchas), sin contar las que van apareciendo prácticamente todas las semanas.
Para comprobarlo, basta entrar en internet, y buscar los comentarios de profesionales que ya la están usando en múltiples áreas. Voy a enumerar unas pocas porque, prácticamente son casi todas, desde medicina, diseño gráfico, traducciones instantáneas entre idiomas, doblaje y edición de videos…Inclusive crear clones de cualquier persona y con su propia voz, en el idioma que quieras. Está además ayudando a la ciencia en el descubrimiento de nuevas medicinas, y diagnósticos, en astronomía (interpretación y busca de señales en telescopios). ……..
Y esto solo es el principio de lo que vendrá, se quiera o no.
lunes 18 marzo, 2024 @ 10:35 pm
Estimado Gerardo, la capacidad de esas tecnologías está en cuanto se usen, a mayor uso más innovación y desarrollo de capacidades, y es muy difícil predecir las preferencias de las poblaciones así como sus necesidades.
Hay casos difícil de predecir como en el caso de las criptomonedas, pues depende del país, en europa con un euro funcionando es normal que no tenga uso pero en otras regiones con gobiernos intrusivos y/o monedas fallidas es una opción viable y válida e incluso de dia a dia, (por ejemplo asi envío yo remesas a venezuela).
A diferencia de los lentes de realidad virtual (que incluso se están devolviendo) la IA está siendo ampliamente utilizadas y cada dia mas a una velocidad muy grande, y no solo en un área sino en todas las áreas que ha sido posible integrarle, y cada dia hay nuevas, como los videos que genera sora o las IA que predicen el plegado de proteínas, o las que reconocen tumores en placas de rayos x, siendo tan versátil efectivamente está satisfaciendo necesidades, y todo eso me parece indicar que llegaron para quedarse.
Pero debido a que no se puede predecir las preferencias, es cierto que está por verse.
martes 19 marzo, 2024 @ 1:59 pm
Javier.L que bien tenerte por Neo. De nuevo,tus comentarios siempre eran interesantes,espero poder tener de nuevo buenas discusiones contigo
Saludos
jueves 21 marzo, 2024 @ 5:28 pm
Estas ideas ya las comentamos hace bastante tiempo en NeoFronteras.
Veo comentarios de gente capacitada, poniendo como mínimo en dudas, el modelo Lambda CDM que, hasta ahora era aceptado ampliamente.
Al analizar los datos suministrados por el telescopio James Webb. Observan galaxias, AN, y otros objetos, en un estado de evolución incompatibles con lo que esta teoría predice.
Algunos calculan que el inicio, del Universo debe por lo menos, empujarse para 26000 millones de años.
Todos estamos ansiosos para que el JWEBB, envíe mas datos, y estos ayuden a clarear estas dudas actuales.
Saludos.
jueves 21 marzo, 2024 @ 5:38 pm
Que bien me parece verte de nuevo, en NeoFronteras, amigo Javier L. Espero que continues por aquí. Tus comentarios eran bastante acertados. Ojalá podamos tener discusiones tan interesantes como las que tuvimos anteriormente.
Abrazos.