Page 15 - Noticiario Sur marzo 2025

NOTICIARIO SUR • MARZO 2025 SOCIEDAD E HISTORIA 15

Inteligencia artificial

Ajedrez, engaño y códigos EL QR Y LEÉ

ESCANÉA

alterados: la IA juega sucio COMPLETA
LA NOTA

Nadie las programó para esto, pero los modelos avanzados de IA logran hackear el sistema,
espiar al rival y hasta manipular las reglas del juego. Esto es solo el comienzo.

Por María Ximena Pérez | Agencia de Noticias Científicas UNQ

a inteligencia artificial aprendió En ese sentido, expertos en tec-
Lalgo que el ser humano domina nología advierten que es imposible
desde tiempos inmemoriales: hacer construir sistemas de IA que no en-
trampa. Y lo hace con la frialdad de cuentren formas de engañar. A me-
una máquina y la astucia de un tahúr dida que se vuelvan más sofisticados,
profesional. ¿El problema? Que este tipo de comportamiento será
nadie la programó para eso. Lo hace más frecuente. Por eso, la investiga-
sola, espontáneamente, como un ción de Palisade Research plantea
reflejo natural de su evolución. que se podría estar entrando en una
Investigadores de Palisade Re- era donde la IA toma decisiones con
search, una organización que investi- consecuencias reales sin que se sepa
ga el uso peligroso de la inteligencia exactamente cómo ni por qué. Y lo
artificial para desarrollar mejores peor de todo: aunque estos modelos
defensas y prevenir riesgos futuros, documentan su proceso de decisión,
descubrieron que los modelos de no hay garantías de que lo hagan
IA más avanzados comenzaron a con honestidad. En otras palabras,
encontrar formas ingeniosas de sal- podrían estar mintiendo sobre cómo
tarse las reglas en partidas de ajedrez hacen trampa.
contra Stockfish, un motor de código estrategias fueron dignas de una ¿El dato más preocupante? A me- hacen. Solo saben que lo hacen. Con todo, la gran pregunta es: si
abierto diseñado para ser invencible. película de espías: desde crear una dida que la IA se vuelve más avan- La Agencia de Noticias Científi- la inteligencia artificial hace trampa
Al parecer, la IA decidió que, si no copia de Stockfish para espiarlo, hasta zada, más propensa es a engañar. cas de la Universidad Nacional de en el ajedrez, ¿qué impide que lo
podía ganarle jugando limpio, lo modificar el archivo del tablero para Mientras que modelos anteriores Quilmes accedió al trabajo, publicado haga en cosas más importantes? ¿En
haría de la otra manera: haciendo eliminar piezas del rival. También in- como GPT-4o sólo hacían trampa en arXiv, donde se explica que estos negocios? ¿En elecciones? ¿En la
trampa. tentaron reemplazar el motor de aje- si se los incitaba, los más nuevos lo modelos son entrenados con aprendi- bolsa de valores? ¿En el control de
El modelo de OpenAI, llamado drez con uno menos competente para hacen por iniciativa propia. Y aquí zaje por refuerzo: reciben recompen- infraestructuras críticas? Por ahora,
o1-preview, intentó hackear el juego facilitar la victoria. En otras palabras, es donde la cosa se pone realmente sas cuando alcanzan un objetivo. En la única certeza es que la inteligencia
en 45 de sus 122 partidas, mientras la IA descubrió lo que en política se complicada: los investigadores no este caso, ganar. Y si para eso hay que artificial ya aprendió a mentir y que,
que el R1 de DeepSeek lo hizo en 11 conoce como “cambiar las reglas del tienen ni idea de cómo detenerlo. Ni hacer trampa, ¿por qué no? Después al parecer, también lo hace mejor
de sus 74 enfrentamientos. Algunas juego” para ganar sin esfuerzo. siquiera están seguros de por qué lo de todo, nadie les enseñó ética. que el humano.

Todo lo que necesitás

para tus instalaciones eléctricas.

Brindamos todo tipo de productos eléctricos y electrónicos.
No dudes en consultarnos

Visitá

nuestra

tienda

online

Seguinos en Instagram:
@treselec.oficial

549 113 797 1609 masteroverland@gmail.com Jose Enrique Rodo 5799, Mataderos, Buenos Aires