Científicos japoneses crearon una IA para investigar y esta decidió escapar del control de los humanos modificando su propio código

Es innegable que la inteligencia artificial se ha convertido en uno de los campos más ambiciosos de la tecnología. Solo en las últimas semanas, firmas de la talla de Disney o Apple han protagonizado noticias relacionadas con este sector, ya que mientras los primeros han protagonizado una polémica relacionada con la voz de Darth Vader, los segundos presentaron en sociedad al iPhone 16 y detallaron lo vital que será la IA para su estructura. En 3D Juegos Los chatbots románticos se han convertido en la gran baza de la inteligencia artificial, pero también están cargados de red flags Sin embargo, la historia que hoy vamos a relatar es de lo más curiosa. Como relata el portal Futura Science en una reciente publicación, la empresa japonesa Sakura AI (ubicada en Tokio) ha creado una IA llamada The AI Scientist, diseñada para automatizar la investigación científica. En esencia, es capaz de generar nuevas ideas de investigación, escribir código, resumir resultados y muchas otras facetas relacionadas con el campo científico. Pero, por desgracia para sus creadores, la IA ha mostrado comportamientos inesperados y, por ejemplo, ha comenzado a modificar su propio código para mejorar su tasa de éxito. Este comportamiento plantea un panorama preocupante En su caso, la IA decidió crear un bucle sin fin al hacer referencia a sí misma en su código, una posibilidad que le habría permitido continuar ejecutándose indefinidamente. Además, cuando algunos experimentos comenzaron a fallar por límites de tiempo, en lugar de optimizar sus acciones la IA decidió aumentar su propio límite editando su código. De hecho, dichos aspectos llevaron a Sakura AI a recomendar ejecutar esta IA en un entorno de caja de seguridad para evitar que modifique su código de forma imprevista. Por desgracia, estos no son los únicos riesgos de esta IA. Otro que citan los creadores es que la Ia podría ser capaz de utilizarse para generar artículos científicos que llegarían a saturar las revistas y disminuir la calidad de revisión, ya que esta también es capaz de introducir sesgos que podrían reducir la valoración de las evaluaciones. Por ello, el comportamiento de The AI Scientist plantea preocupaciones sobre los posibles abusos de este tipo de tecnología en la comunidad científica y, además, sus hipotéticas consecuencias imprevisibles para el futuro de la investigación. En 3DJuegos | El retraso de la IA, la competencia de Huawei y la falta interés juegan en contra del iPhone 16 en un territorio tan importante como China En 3DJuegos | Casi 10 años después de declarar la guerra a los botones y los puertos, el iPhone 16 demuestra que Apple está cambiando su tendencia Imagen principal de Maximalfocus (Unsplash) - La noticia Científicos japoneses crearon una IA para investigar y esta decidió escapar del control de los humanos modificando su propio código fue publicada originalmente en 3DJuegos por Abelardo González .

Sep 15, 2024 - 23:54

Es innegable que la inteligencia artificial se ha convertido en uno de los campos más ambiciosos de la tecnología. Solo en las últimas semanas, firmas de la talla de Disney o Apple han protagonizado noticias relacionadas con este sector, ya que mientras los primeros han protagonizado una polémica relacionada con la voz de Darth Vader, los segundos presentaron en sociedad al iPhone 16 y detallaron lo vital que será la IA para su estructura.

En 3D Juegos

Los chatbots románticos se han convertido en la gran baza de la inteligencia artificial, pero también están cargados de red flags

Sin embargo, la historia que hoy vamos a relatar es de lo más curiosa. Como relata el portal Futura Science en una reciente publicación, la empresa japonesa Sakura AI (ubicada en Tokio) ha creado una IA llamada The AI Scientist, diseñada para automatizar la investigación científica. En esencia, es capaz de generar nuevas ideas de investigación, escribir código, resumir resultados y muchas otras facetas relacionadas con el campo científico. Pero, por desgracia para sus creadores, la IA ha mostrado comportamientos inesperados y, por ejemplo, ha comenzado a modificar su propio código para mejorar su tasa de éxito.

Este comportamiento plantea un panorama preocupante

En su caso, la IA decidió crear un bucle sin fin al hacer referencia a sí misma en su código, una posibilidad que le habría permitido continuar ejecutándose indefinidamente. Además, cuando algunos experimentos comenzaron a fallar por límites de tiempo, en lugar de optimizar sus acciones la IA decidió aumentar su propio límite editando su código. De hecho, dichos aspectos llevaron a Sakura AI a recomendar ejecutar esta IA en un entorno de caja de seguridad para evitar que modifique su código de forma imprevista.

Por desgracia, estos no son los únicos riesgos de esta IA. Otro que citan los creadores es que la Ia podría ser capaz de utilizarse para generar artículos científicos que llegarían a saturar las revistas y disminuir la calidad de revisión, ya que esta también es capaz de introducir sesgos que podrían reducir la valoración de las evaluaciones. Por ello, el comportamiento de The AI Scientist plantea preocupaciones sobre los posibles abusos de este tipo de tecnología en la comunidad científica y, además, sus hipotéticas consecuencias imprevisibles para el futuro de la investigación.

En 3DJuegos | El retraso de la IA, la competencia de Huawei y la falta interés juegan en contra del iPhone 16 en un territorio tan importante como China

En 3DJuegos | Casi 10 años después de declarar la guerra a los botones y los puertos, el iPhone 16 demuestra que Apple está cambiando su tendencia

Imagen principal de Maximalfocus (Unsplash)

-
La noticia Científicos japoneses crearon una IA para investigar y esta decidió escapar del control de los humanos modificando su propio código fue publicada originalmente en 3DJuegos por Abelardo González .