El despido de Sam Altman habría sido precipitado por un descubrimiento que podría “amenazar a la humanidad”: una carta enviada por los investigadores de la startup a la junta directiva advertía sobre un avance significativo en el desarrollo del modelo llamado internamente Q* (léase “estrella Q”).
El sistema podría resolver ciertos problemas matemáticos simples, pero los investigadores lo vieron con optimismo y fue un gran paso adelante en la búsqueda de la Inteligencia General Artificial (AGI).
La carta a la junta directiva advertía sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad, dijeron a Reuters dos personas familiarizadas con el asunto.
La carta no reportada anteriormente y el algoritmo de IA fueron desarrollos clave antes de que la junta destituyera a Altman, el ejemplo de la IA generativa, dijeron las dos fuentes. Antes de su regreso triunfal el martes por la noche, más de 700 empleados habían amenazado con renunciar y unirse al patrocinador Microsoft (MSFT.O) en solidaridad con su líder despedido.
Las fuentes citaron la carta como un factor entre una lista más larga de quejas de la junta que llevaron al despido de Altman, entre las que se encontraban preocupaciones sobre la comercialización de avances antes de comprender las consecuencias.
OpenAI, que declinó hacer comentarios, reconoció en un mensaje interno a su personal un proyecto llamado Q* y una carta a la junta antes de los eventos del fin de semana.
Algunos en OpenAI creen que Q* (pronunciado Q-Star) podría ser un gran avance en la búsqueda de la startup de lo que se conoce como inteligencia artificial general (AGI), dijo una de las personas a Reuters. OpenAI define AGI como sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas.
Inteligencia Artificial resolviendo problemas matemáticos
Los investigadores consideran que las matemáticas son una frontera en el desarrollo de la IA generativa. Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, y las respuestas a la misma pregunta pueden variar ampliamente. Pero conquistar la capacidad de hacer matemáticas (donde sólo hay una respuesta correcta) implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana.
Los investigadores de IA creen que esto podría aplicarse a investigaciones científicas novedosas, por ejemplo. A diferencia de una calculadora que puede resolver un número limitado de operaciones, AGI puede generalizar, aprender y comprender.
En su carta a la junta, los investigadores señalaron la destreza y el peligro potencial de la IA. Los informáticos llevan mucho tiempo debatiendo el peligro que suponen las máquinas muy inteligentes, si, por ejemplo, pudieran decidir que la destrucción de la humanidad era de su interés.
Los investigadores también han señalado el trabajo de un equipo de «científicos de IA», cuya existencia confirmaron múltiples fuentes. El grupo, formado combinando equipos anteriores de «Code Gen» y «Math Gen», estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajo científico, dijo una de las personas.
Altman lideró los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo la inversión (y los recursos informáticos) necesarios de Microsoft para acercarse a AGI.
Visita la sección de Inteligencia Artificial para más contenido.
Fuente: Reuters