OpenAI despidió repentinamente a Sam Altman como CEO, pero revirtió la decisión bajo presión de inversores y empleados, quienes amenazaron con renunciar en bloque si no se restituía a Altman con una nueva junta directiva. La causa inicial del despido generó hace unas semanas cierta incertidumbre y, ahora, se ha filtrado que antes del despido investigadores de OpenAI advirtieron sobre un comprometedor descubrimiento de inteligencia artificial en el denominado proyecto Q* y, al parecer, se preocupaban en mayor medida por la comercialización apresurada de la tecnología que OpenAI habría desarrollado, antes de comprender completamente las consecuencias que tendrían para los seres humanos.
Resulta que Q* podría representar un avance considerable en la búsqueda de la inteligencia artificial general (AGI),y superaría a los humanos en algunas áreas. Sin embargo, la junta temía que Altman lanzara productos sin suficientes barreras de seguridad. La tecnología de Q* puede resolver problemas matemáticos a niveles de escuela primaria, lo cual, aunque no suene impresionante, es crucial en el desarrollo de la inteligencia artificial generativa.
Los miedos que han surgido durante el desarrollo de este proyecto se centran en el potencial de una AGI demasiado inteligente y autónoma, capaz de tomar decisiones que podrían poner en peligro a la humanidad. Este episodio ha generado desavenencias acerca de cómo gestionar y desplegar tecnologías relacionadas con las IA avanzadas.
De todas maneras, Q* representa un salto significativo en inteligencia artificial y se intuye que se trata de un método que impulsa la capacidad de hacer acciones complejas basadas en experiencias pasadas. A diferencia de la inteligencia artificial convencional, la AGI de Q* va más allá de replicar conocimiento, siendo capaz de aprender de errores, generalizar y comprender patrones. Este avance podría llevar desde problemas simples de primaria a operaciones científicas, estadísticas o económicas mucho más complejas.
➡ En Vacolba nos importa tu opinión. ¿Qué opinas? ¿Crees que la IA puede suponer un peligro potencial para la humanidad?
Un comentario en «¿Qué trama OpenAI con el proyecto Q*?»