25 de diciembre de 2023 0 137

Ilya Sutskever, el cardenal gris de OpenAI. ¿Quién está detrás del tan discutido despido de dos fundadores de la empresa?

El viernes pasado, 17 de noviembre, dos cofundadores y figuras destacadas de la startup, Sam Altman y Greg Brockman, fueron despedidos de OpenAI. Según varias fuentes cercanas a la situación, Ilya Sutskever, científico jefe y cofundador de OpenAI, lideró la reducción. En un artículo anterior reconstruimos la secuencia de acontecimientos que siguieron a esta importante decisión, y hoy profundizaremos en la figura que se encuentra detrás de ella.

Mantente al día con las últimas noticias del marketing de afiliación, artículos, guías y casos de estudio. !¡Únete a nuestro canal de Telegram hoy mismo!

 

Sutskever nació en 1984 en Nizhny Novgorod. Creció en Jerusalén, donde su familia emigró cuando él tenía cinco años, sin embargo, las reubicaciones no terminaron ahí. Cuando era adolescente, Ilya y su familia emigraron a Canadá, donde recibió su educación en la Universidad de Toronto bajo la dirección de Geoffrey Hinton, un pionero en el campo de la inteligencia artificial, a menudo llamado el "padrino de la IA".

En 2012, Hinton y dos de sus doctores, los estudiantes, Alex Krizhevsky e Ilya Sutskever, desarrollaron una herramienta de inteligencia artificial entrenada para reconocer objetos en fotografías. El proyecto, denominado "AlexNet", demostró que las herramientas de inteligencia artificial destacan en el reconocimiento de imágenes mucho más allá de los algoritmos anteriores.

Esta herramienta de IA, entrenada con un millón de imágenes, superó a todos los algoritmos existentes en ese momento. Juntos fundaron la empresa "DNNresearch Inc."

En la foto, de izquierda a derecha: Ilya Sutskever, Alex Krizhevsky, Geoffrey Hinton.

Unos meses después del lanzamiento, Google adquirió "DNNresearch" junto con todos sus desarrollos. Los fundadores fueron contratados por Google para continuar su investigación. Trabajando en el gigante tecnológico, Sutskever demostró que el mismo tipo de reconocimiento de imágenes utilizado por "AlexNet" podría funcionar con palabras.

Pronto Ilya atrajo la atención de otro actor influyente en el campo de la inteligencia artificial: Elon Musk. El multimillonario había advertido durante mucho tiempo sobre el peligro potencial que representa la IA para la humanidad. Específicamente, le preocupaba que el cofundador de Google, Larry Page, no estuviera preocupado por la seguridad de la IA y calificó de riesgosa la concentración de este tipo de profesionales que trabajan en Google.

De acuerdo con las ideas de Musk, Sutskever dejó Google en 2015 para convertirse en cofundador y científico jefe de OpenAI. La startup fue concebida como una organización sin fines de lucro que Musk consideraba un contrapeso a Google en el campo de la inteligencia artificial.

"Fue una de las batallas de reclutamiento más duras que he librado jamás, pero resultó ser la clave del éxito de OpenAI", dijo Musk.

Además, el multimillonario añadió que Ilya no sólo es un talento intelectual, sino también una "buena persona con un buen corazón".

En OpenAI, Sutskever desempeñó un papel crucial en el desarrollo de los modelos de lenguaje GPT-2, GPT-3 y el modelo de transformación de texto a imagen DALL-E.

A finales de 2022 se lanzó ChatGPT, que atrajo a 100 millones de usuarios en menos de dos meses y desató el auge de la IA. Sutskever dijo a Technology Review que el chatbot dio a la gente una idea de lo que es posible con la inteligencia artificial, aunque a veces decepciona con resultados incorrectos.

¿Qué precedió al despido de los fundadores de OpenAI?

A principios de este año, Geoffrey Hinton dejó Google. El "padrino de la IA" advirtió que las empresas que se dedican a desarrollos en este campo no prestan atención a los riesgos asociados y crean agresivamente herramientas de inteligencia artificial generativa, como ChatGPT de OpenAI.

"...lo que está pasando en estos sistemas es mucho más complicado que lo que está sucediendo en el cerebro humano. Mire lo que estaba sucediendo en la investigación de la IA hace cinco años y lo que está sucediendo ahora. Imagínese cuán rápido ocurrirán los cambios en el futuro, Da miedo. Es difícil imaginar cómo prevenir su uso malévolo..."

El propio Sutskever centró su atención en los peligros potenciales de la IA. Según él, la superinteligencia podría surgir en 10 años y la cuestión de su regulación debe abordarse con antelación.

Ilya Sutskever, tweet del 10 de febrero de 2022 (9 meses antes del lanzamiento público de ChatGPT): "Es posible que las grandes herramientas de IA actuales ya sean parcialmente conscientes".

"Es importante garantizar que cualquier inteligencia artificial creada no se vuelva dañina", dijo Sutskever en una entrevista con Technology Review.

En julio, Ilya y su colega, Jan Leike, publicaron un blog post sobre OpenAI. Advirtieron que si bien la superinteligencia podría ayudar a "resolver los desafíos globales más apremiantes", también podría ser "muy peligrosa, llevando a la humanidad a perder sus capacidades o incluso desaparecer por completo".

Título de la publicación del blog escrita por Sutskever y Leike:

“Necesitamos avances científicos y técnicos para controlar sistemas de inteligencia artificial que sean mucho más inteligentes que nosotros. Para abordar este problema durante los próximos cuatro años, estamos formando un nuevo equipo liderado por Ilya Sutskever y Jan Leike, asignando el 20% de nuestros recursos informáticos existentes para estas tareas. Estamos buscando investigadores e ingenieros que se unan a nosotros”.

El mes pasado, Ilya Sutskever, que normalmente evita la atención de los medios, concedió varias entrevistas extensas: una a MIT Technology Review y otra a The Guardian. En estas entrevistas, reiteró sus preocupaciones sobre la seguridad del desarrollo de la inteligencia artificial.

Según fuentes anónimas, un factor clave que influyó en el cambio de liderazgo en OpenAI fue precisamente la cuestión de la seguridad. Sutskever no estuvo de acuerdo con Altman sobre la rapidez con la que se comercializaban los productos de OpenAI y qué medidas deberían tomarse para mitigar el daño potencial de la tecnología.

Según los datos de The Information, después de que Altman y Brockman fueran despedidos, los empleados de OpenAI preguntaron a Ilya Sutskever si se trataba de un "golpe de estado" o de una "adquisición hostil" por parte de otros miembros de la junta directiva.

"Podrías llamarlo así. Y puedo entender por qué elegiste esa palabra, pero no estoy de acuerdo con ella. Lo decidió la junta, cumpliendo con su deber hacia la misión de una organización sin fines de lucro. La misión es crear inteligencia artificial en OpenAI que beneficiará a toda la humanidad".

Consecuencias inesperadas

El domingo 19, los inversores liderados por el CEO de Microsoft, Satya Nadella, presionaron a la junta directiva de OpenAI, apoyando a Sam Altman e insistiendo en su regreso a la empresa. El directorio de la empresa inició negociaciones, Sam presentó condiciones para que toda la junta directiva abandonara OpenAI.

La junta aceptó esta condición pero no cumplió con el plazo fijado por Altman. En la mañana del 20 de noviembre, Sam anunció que rechaza la oferta de regresar a OpenAI como CEO. En cambio, él y Greg Brockman se unirán al equipo de investigación de inteligencia artificial de Microsoft.

Tras esta noticia, 505 de los 700 empleados de OpenAI escribieron una carta abierta a la dirección de la empresa exigiendo su dimisión.

"Sus acciones indican que ya no puede administrar OpenAI... Nosotros, los abajo firmantes, podemos dejar la empresa y unirnos a Microsoft junto con Sam Altman y Greg Brockman. Microsoft ha confirmado que habrá lugares para todos en la nueva división "Si toda la junta directiva no dimite, aceptaremos su oferta".

Ilya Sutskever es el duodécimo firmante de la carta.

En su perfil X, luego publicó lo siguiente:

Ilya Sutskever: "Lamento profundamente mi participación en las acciones de la junta directiva. No quería dañar a OpenAI. Amo todo lo que hemos creado juntos y haré todo lo que esté en mi poder para reunir la empresa".

Sam Altman y Greg Brockman citaron la publicación y comentaron con significativos emojis de corazón.

¿Fue Ilya Sutskever la inspiración ideológica para este despido, pero temía consecuencias impredecibles para la empresa, o se convirtió simplemente en un peón en el juego más amplio del tablero? Es poco probable que conozcamos los detalles detrás de escena de lo que sucedió antes de que Netflix haga una película biográfica sobre esta historia.

UPD: 700 de los 770 empleados de la empresa han firmado una carta abierta a la dirección exigiendo su dimisión. Los inversores de OpenAI están llevando a la junta directiva a los tribunales.

¿Qué te parece el artículo?