El chip fotónico programable utiliza la luz para acelerar el entrenamiento de IA y reducir el uso de energía

Los ingenieros de Penn han desarrollado el primer chip programable que puede entrenar redes neuronales no lineales utilizando la luz, un éxito que puede acelerar drásticamente el entrenamiento de IA, reducir el uso de energía e incluso allanar el camino para las computadoras completamente ligeras.

Si bien los chips AI de hoy son electrónicos y dependen de la electricidad para calcular, el nuevo chip es fotónico, lo que significa que usa el haz de luz. Describir Fotónica de la naturalezaEl chip dice cómo la luz se comporta en el corazón de la IA moderna para realizar matemáticas no lineales en el corazón.

Profesor e Ingeniería Eléctrica y de Sistemas (ESE) en Ciencia e Ingeniería de Materiales (MSE), y profesor en el escritor senior del periódico, dice Liang Feng: "Las funciones no lineales son importantes para capacitar a la red de nervios profundos". "Nuestro objetivo era hacerlo en fotónica por primera vez".

Pieza faltante en la IA fotónica

La mayoría de los sistemas de IA hoy dependen de la red nerviosa, diseñada para imitar el software para imitar el tejido nervioso orgánico. La forma en que las neuronas se conectan para permitir que los organismos biológicos piensen, Nerve Network conecta capas de unidades simples juntas, o "nodos", permiten que el sistema AI realice funciones complejas.

Tanto en sistemas artificiales como biológicos, estos nodos solo alcanzan el "fuego" una vez, un proceso no procesado que permite pequeños cambios en la entrada causa cambios grandes y más complejos en la salida.

Sin esa no linealidad, agregar capas no sucede nada: el sistema simplemente reduce una operación lineal de una sola capa, donde la entrada simplemente se suma, y ​​no hay aprendizaje real.

Mientras que muchos equipos de investigación, Con equipos en ingeniería de plumaHa desarrollado chips con alimentación de luz capaces de manejar operaciones matemáticas lineales, nadie ha resuelto el desafío de representar tareas no lineales utilizando solo luz.

"Sin ninguna tarea, los chips fotónicos no pueden entrenar redes profundas o en realidad no hacen un trabajo inteligente", dice Tianvei Wu (Gr'24), un amigo postdorel y el primer autor del artículo en ESE.

Re -mando de luz

El éxito del equipo comienza con un material semiconductor especial que responde a la luz. Cuando la "señal" pasa a través de un contenido de viga de luz (que lleva datos de entrada), una segunda "bomba" brilla desde la parte superior, ajusta cómo reacciona el material.

Al cambiar el tamaño y la intensidad del haz de la bomba, el equipo puede controlar cómo se absorben, se envían o amplifican las luces de señalización dependiendo de su intensidad y comportamiento del contenido. Este proceso "programa" el programa de chip "para realizar varias funciones no lineales.

"No estamos cambiando la estructura del chip", dice Feng. "Estamos usando luz para hacer patrones dentro del material, lo que explica cómo la luz se mueve a través de él".

El resultado es un sistema de reconstrucción que puede expresar una amplia gama de funciones matemáticas basadas en el patrón de la bomba. Esta flexibilidad permite que el chip aprenda en tiempo real, ajustando su comportamiento dependiendo de la respuesta de su salida.

La rápida velocidad y el tiempo dedicado a esta velocidad pueden reducir el riesgo de las anormalidades del ritmo cardíaco, la investigación muestra la investigación

Entrenamiento a la velocidad de la luz

Para probar la capacidad del chip, el equipo usó el chip para resolver problemas de IA de referencia. El foro adquirió más del 97% de precisión en un simple trabajo de límite de decisión no lineal y más del 96% en el famoso conjunto de datos de flores de Iris.

En ambos casos, el chip fotónico realizó o mejoró la red nerviosa digital tradicional, pero utilizó un bajo funcionamiento, y no requirió componentes electrónicos eléctricos.

En un resultado sorprendente, solo cuatro conexiones ópticas no lineales en el chip fueron igual a 20 conexiones electrónicas lineales con funciones de activación no lineal fijas en un modelo tradicional. Esta eficiencia indica lo que es posible como escalas de arquitectura.

A diferencia de los sistemas fotónicos anteriores, que se fijan después de la construcción, el chip de la pluma comienza como un lienzo vacío. La bomba actúa como un cepillo de luz, que representa las instrucciones de recurrencia en el material.

"Es un verdadero concepto de prueba para una computadora fotónica programable para el campo", dice Feng. "Este es un futuro hacia un futuro en el que podamos entrenar IA a la velocidad de la luz".

direcciones futuras

Si bien la tarea actual se centra en el polinomio, una familia flexible de tareas ampliamente utilizadas en el aprendizaje automático, el equipo cree que su enfoque puede permitir operaciones aún más poderosas en el futuro, como funciones exponenciales o invertidas. Esto allanará el camino para los sistemas fotónicos que se ocupan de funciones a gran escala a gran escala, como modelos de idiomas grandes entrenados.

La baja energía promete reducir el consumo de energía en los centros de datos de IA de la plataforma reemplazando la electrónica generadora de calor junto con los componentes ópticos de baja energía, que potencialmente cambiar la economía del aprendizaje automático.

"Este puede ser el comienzo de la computación fotónica como una alternativa seria a la electrónica", dice Leiang. "Penn es el lugar de nacimiento de ENIAC, la primera computadora digital del mundo: este chip puede ser el primer paso real hacia un ENIAC fotónico".