Los nuevos laboratorios cortos se aseguran de que la IA no comete errores

Cualquiera que desarrolle una solución de IA a veces realice un viaje en desconocido. Al menos al principio, los investigadores y diseñadores no siempre saben si sus algoritmos y modelos de IA funcionarán requeridos o lo que AI eventualmente cometerá errores.

A veces, la aplicación AI que funciona bien en principio, se desempeña mal en condiciones de la vida real. Sin embargo, para ganar la confianza de los usuarios, una IA debe trabajar de manera firme y correcta. Esto se aplica tanto a los chatbots populares como para las herramientas de IA en la investigación.

Cualquier nueva herramienta de IA debe probarse bien antes de implementarse en el mundo real. Sin embargo, las pruebas en el mundo real pueden ser un esfuerzo costoso o incluso arriesgado. Por esta razón, los investigadores a menudo prueban sus algoritmos en la simulación por computadora de la realidad. Sin embargo, dado que la simulación se estima en la realidad, probar las soluciones de IA de esta manera puede motivar a los investigadores a reducir el rendimiento de la IA.

Escribir Inteligencia de la máquina de la naturalezaAth Mahemetian Juan Gamela presenta un nuevo enfoque que los investigadores pueden usar para verificar cómo sus algoritmos y modelos de IA funcionan de manera firme y correcta.

Un modelo de IA se basa en ciertas creencias y está capacitado para aprender de los datos y hacer las tareas dadas sabiamente. Un algoritmo incluye reglas matemáticas que siguen al modelo AI para procesar una tarea.

Prueba de IA en lugar de sobreestimar

Gamella ha creado laboratorios cortos especiales ("mini labas") que pueden usarse como un lecho de prueba para el nuevo algoritmo de IA.

"Las mini-Labs proporcionan un entorno de prueba flexible que proporciona datos de medición reales. Son ligeramente como un patio de recreo para los algoritmos, donde los investigadores pueden probar sus AIS más allá de los datos falsos en un entorno controlado y seguro", dice Gamela.

Las mini labas se basan en una física bien entendida, para que los investigadores puedan usar el conocimiento para verificar si sus algoritmos alcanzan la solución correcta para varios problemas. Si una IA falla en la prueba, los investigadores pueden mejorar rápidamente las creencias y algoritmos matemáticos subyacentes en el proceso de desarrollo.

Las primeras mini labas de Gamela se basan en dos sistemas físicos que muestran propiedades esenciales que son para muchos dispositivos de IA para tratar las condiciones del mundo real. La forma en que se usa un mini-labe depende del problema que se está investigando y qué tiene que hacer el algoritmo. Por ejemplo, su primer mini-lab tiene un sistema dinámico como el aire que constantemente cambia y reacciona a influencias externas.

Se puede usar para probar dispositivos AI para obtener problemas de control. Su segundo mini-lab, que sigue a las reglas de física de la luz bien entendidas, puede usarse para probar la IA que tiene como objetivo aprender automáticamente tales leyes de los datos y, por lo tanto, ayuda a los científicos a hacer nuevos descubrimientos.

Las mini labas son herramientas tangibles, aproximadamente del tamaño de una computadora de escritorio, que puede operarse mediante control remoto. Recordan los experimentos de rendimiento histórico realizados por los investigadores del siglo XVI, que presentarán, discutirán y mejorarán sus principios y conclusiones en las sociedades científicas.

Gamella AI compara el papel de las mini labas en el diseño de algoritmos de IA con un túnel de viento en la fabricación de aviones: cuando se desarrolla una nueva aeronave, la mayor parte del trabajo de diseño se realiza inicialmente utilizando la simulación por computadora, ya que es más eficiente y rentable.

Una vez que los ingenieros acuerdan sus diseños, hacen un modelo corto y los prueban en un túnel de viento. Luego fabrican un avión de tamaño completo y lo prueban en vuelos reales.

Un paso intermedio entre la simulación y la realidad

"Al igual que el túnel de viento para la aeronave, las mini labas sirven como una verificación de pureza, para garantizar que todo funcione rápidamente porque nos movemos en realidad de la simulación a la realidad", dice Gamela.

Él ve la prueba del algoritmo de IA en un entorno controlado como un paso importante e intermedio para garantizar que la IA funcione en un complejo paisajes del mundo real. Las mini-Labs lo proporcionan para algunos tipos de AIS, especialmente para aquellos que están diseñados para interactuar directamente con el mundo físico.

Mini-Labs ayuda a los investigadores a un lecho de prueba para estudiar el problema de la infección de la simulación a la realidad, donde pueden hacer muchos experimentos según sea necesario tantos experimentos. Este problema de transición también es relevante en la intersección entre la robótica y la IA, donde los algoritmos de IA a menudo se entrenan para resolver tareas en un entorno falso, y solo en el mundo real. Esto aumenta la confiabilidad.

Gamella comenzó con una licenciatura en matemáticas antes de obtener una maestría en robótica en ETH. Como estudiante de doctorado, regresó a las matemáticas y la investigación de IA.

Él ha mantenido su naturaleza para la física y la tecnología. "Quiero desarrollar dispositivos que ayuden a los científicos a resolver preguntas de investigación".

La aplicación para sus mini labas no se limita a la ingeniería. Junto con un colega del Hospital Universitario, centrado en Berlín, intentó diseñar un mini laboratorio para probar el algoritmo de IA en biología de vela y biología sintética. Sin embargo, el costo fue muy alto.

Por el contrario, sus segundos mini-Labs, un túnel de luz, que ya se usa como entorno de prueba en la producción industrial, para un problema óptico. Las mini-Labs también han ayudado a probar varios métodos nuevos cómo los modelos de idiomas grandes (LLM) pueden hacer predicciones externas precisas en el mundo real.

Razón AI - Píldora de plata para la IA correcta

Gamela ha adoptado el enfoque de bala de plata para demostrar la idoneidad de sus mini labs, y finalmente muestra que también son útiles para las preguntas de IA. La razón es un campo importante de investigación y razones por las que las estadísticas de IA y la informática teórica que es fundamental para el modelo de IA: el modelo de IA debe comprender las relaciones de la razón para el modelo de IA.

Sin embargo, los modelos de IA a menudo no reflejan las relaciones debido al mundo, sino que hacen predicciones basadas en correlaciones estadísticas. Hablando científicamente, las cousas laborales son un concepto fundamental que describe la relación entre causas y efectos.

La razón se refiere al modelo AI AI que reconoce la relación causa y efecto. Los resultados de la IA son más precisos y transparentes. Esta es la razón por la cual la IA es importante para áreas como drogas, economía e investigación climática.

La razón requiere nuevos métodos estadísticos para desarrollar IA, ya que las razones a veces se ven afectadas por circunstancias y coincidencias especiales. Además, no se pueden separar fácilmente entre sí en contextos complejos.

Gamela ha trabajado en investigación en asociación con los profesores de matemáticas de ETH Peter Buhalman y Jonas Peters. Ambos han desarrollado enfoques importantes para identificar las causas y separar los efectos o separarse del ruido aleatorio en condiciones cambiantes.

"Sin embargo, estos métodos suelen ser difíciles de probar en el mundo real", dice Gamela. "Para hacer esto, necesitamos datos de sistemas donde la relación de causa-efecto ya se sabe que verifica si nuestros algoritmos pueden aprenderlos correctamente. Es difícil encontrar datos".

Para su publicación, tres investigadores de ETH probaron el algoritmo de IA debido a las mini labas fabricadas por Gamela. Él mismo se refiere a sus mini labas como "causa cámaras".

Primero, probó si el algoritmo aprendió la razón correcta para cada mini-lab, es decir, para el aire y la luz. También vio qué tan bien el algoritmo identificó qué factores se afectan entre sí y cómo funcionan cuando hay un cambio repentino en circunstancias inusuales.

Peter Buhalaman, un supervisor de doctorado de Gamela, está lleno de elogios, dijo: "Las causas son un adicional valioso para la investigación de explotación de corrosión. El nuevo algoritmo puede validarse de una manera sin precedentes".

Gamella está contenta con los beneficios inesperados proporcionados para la enseñanza. "Dado que el algoritmo Mini-Laib ofrece un patio de recreo seguro para los algoritmos, también son un magnífico parque infantil para los estudiantes", dicen.

Los profesores de IA, estadísticas y otros campos de ingeniería pueden usar a sus estudiantes para aplicar a sus estudiantes directamente a los que han aprendido en un entorno práctico. Los profesores de todo el mundo ya han expresado su interés, y Gamela ahora está estableciendo estudios piloto en Ath Zurich y la Universidad de arrendamiento.