18 grudnia 2023 0 140

Ilya Sutskever — Szary Kardynał OpenAI. Kto Stoi za Szeroko Dyskutowanym Zwolnieniem Dwóch Założycieli Firmy?

W ubiegły piątek, 17 listopada, dwóch współzałożycieli i prominentnych postaci startupu — Sam Altman i Greg Brockman — zostało zwolnionych z OpenAI. Według kilku źródeł zbliżonych do sytuacji, Ilya Sutskever, główny naukowiec i współzałożyciel OpenAI, doprowadził do redukcji zatrudnienia. W poprzednim artykule zrekonstruowaliśmy sekwencję wydarzeń po tej ważnej decyzji, a dziś zagłębimy się w postać stojącą za nią.

Bądź na bieżąco z najnowszymi wiadomościami na temat marketingu afiliacyjnego, artykułami, przewodnikami i studiami przypadków. Subskrybuj nasz kanał Telegram już dziś!

Sutskever urodził się w 1984 roku w Niżnym Nowogrodzie. Dorastał w Jerozolimie, gdzie jego rodzina wyemigrowała, gdy miał pięć lat. Na tym przeprowadzki się nie skończyły. Jako nastolatek Ilya i jego rodzina wyemigrowali do Kanady. Wykształcenie zdobywał na Uniwersytecie w Toronto pod okiem Geoffreya Hintona — pioniera w dziedzinie sztucznej inteligencji, często nazywanego "ojcem chrzestnym sztucznej inteligencji". W 2012 roku Hinton i dwóch jego doktorantów — Alex Krizhevsky i Ilya Sutskever — opracowali narzędzie sztucznej inteligencji wyszkolone do rozpoznawania obiektów na zdjęciach. Projekt, nazwany "AlexNet", wykazał, że narzędzia sztucznej inteligencji doskonale radzą sobie z rozpoznawaniem obrazów, znacznie przewyższając wcześniejsze algorytmy. Narzędzie sztucznej inteligencji, przeszkolone na milionie obrazów, przewyższyło wszystkie istniejące wówczas algorytmy. Wspólnie założyli firmę "DNNresearch Inc."

Na zdjęciu od lewej do prawej: Ilya Sutskever, Alex Krizhevsky, Geoffrey Hinton.

Kilka miesięcy po uruchomieniu, Google przejęło "DNNresearch" wraz ze wszystkimi jego osiągnięciami. Założyciele zostali zatrudnieni przez Google, aby kontynuować swoje badania. Pracując dla giganta technologicznego, Sutskever zademonstrował, że ten sam rodzaj rozpoznawania obrazu używany przez "AlexNet" może działać ze słowami.

Wkrótce Ilya przyciągnął uwagę innego wpływowego gracza w dziedzinie sztucznej inteligencji — Elona Muska. Miliarder od dawna ostrzegał przed potencjalnym zagrożeniem, jakie sztuczna inteligencja stanowi dla ludzkości. W szczególności był zaniepokojony tym, że współzałożyciel Google Larry Page nie martwił się o bezpieczeństwo sztucznej inteligencji. Określił koncentrację specjalistów od sztucznej inteligencji pracujących w Google jako ryzykowną.

Zgadzając się z pomysłami Muska, Sutskever opuścił Google w 2015 roku, aby zostać współzałożycielem i głównym naukowcem OpenAI. Startup został pomyślany jako organizacja non-profit, którą Musk uważał za przeciwwagę dla Google w dziedzinie sztucznej inteligencji.

"To była jedna z najtrudniejszych bitew rekrutacyjnych, jakie kiedykolwiek stoczyłem, ale okazała się kluczem do sukcesu OpenAI" — powiedział Musk.

Ponadto miliarder dodał, że Ilya jest nie tylko utalentowany intelektualnie, ale także "dobrym człowiekiem o życzliwym sercu".

W OpenAI Sutskever odegrał kluczową rolę w opracowywaniu modeli językowych GPT-2, GPT-3 oraz modelu transformacji tekstu na obraz DALL-E.

Pod koniec 2022 roku wydano ChatGPT, który przyciągnął 100 milionów użytkowników w mniej niż dwa miesiące i wywołał boom na sztuczną inteligencję. Sutskever powiedział Technology Review, że chatbot dał ludziom wyobrażenie o tym, co jest możliwe dzięki sztucznej inteligencji, nawet jeśli czasami rozczarowuje błędnymi wynikami.

Co poprzedziło zwolnienie założycieli OpenAI?

Na początku tego roku Geoffrey Hinton opuścił Google. "Ojciec chrzestny sztucznej inteligencji" ostrzegł, że firmy zaangażowane w rozwój w tej dziedzinie nie zwracają uwagi na związane z tym ryzyko, agresywnie tworząc narzędzia generatywnej sztucznej inteligencji, takie jak ChatGPT firmy OpenAI.

"... to, co dzieje się w tych systemach, jest znacznie bardziej skomplikowane niż to, co dzieje się w ludzkim mózgu. Spójrzmy na to, co działo się w badaniach nad sztuczną inteligencją pięć lat temu i co dzieje się teraz. Wyobraź sobie, jak szybko zmiany nastąpią w przyszłości. To przerażające. Trudno sobie wyobrazić, jak zapobiec złośliwym zastosowaniom...".

Sam Sutskever skupił swoją uwagę na potencjalnych zagrożeniach związanych ze sztuczną inteligencją. Według niego superinteligencja może pojawić się w ciągu 10 lat, a kwestią jej regulacji należy zająć się z wyprzedzeniem.

Ilya Sutskever, tweet z 10 lutego 2022 roku (9 miesięcy przed publiczną premierą ChatGPT): "Możliwe, że dzisiejsze duże narzędzia sztucznej inteligencji są już częściowo świadome".

"Ważne jest, aby upewnić się, że każda stworzona sztuczna inteligencja ostatecznie nie stanie się szkodliwa" – powiedział Sutskever w wywiadzie dla Technology Review.

W lipcu Ilya i jego kolega, Jan Leike, opublikowali post na blogu OpenAI. Ostrzegli w nim, że choć superinteligencja może pomóc w "rozwiązaniu najpilniejszych globalnych wyzwań", może być również "bardzo niebezpieczna, prowadząc ludzkość do utraty jej zdolności lub nawet całkowitego zniknięcia".

Tytuł wpisu na blogu autorstwa Sutskever i Leike:

"Potrzebujemy przełomów naukowych i technicznych, aby kontrolować systemy sztucznej inteligencji, które są znacznie inteligentniejsze od nas. Aby rozwiązać ten problem w ciągu najbliższych czterech lat, tworzymy nowy zespół kierowany przez Ilyę Sutskevera i Jana Leike, przeznaczając 20% naszych istniejących zasobów obliczeniowych na te zadania. Poszukujemy badaczy i inżynierów, którzy chcieliby do nas dołączyć".

W zeszłym miesiącu Ilya Sutskever, który zwykle unika uwagi mediów, udzielił kilku obszernych wywiadów: jednego dla MIT Technology Review, a drugiego dla The Guardian. W wywiadach tych powtórzył swoje obawy dotyczące bezpieczeństwa rozwoju sztucznej inteligencji.

Według anonimowych źródeł, kluczowym czynnikiem wpływającym na zmianę przywództwa w OpenAI była właśnie kwestia bezpieczeństwa. Sutskever nie zgadzał się z Altmanem co do tego, jak szybko produkty OpenAI były komercjalizowane i jakie kroki należy podjąć, aby złagodzić potencjalne szkody związane z technologią.

Według danych The Information, po zwolnieniu Altmana i Brockmana pracownicy OpenAI zapytali Ilyę Sutskevera, czy był to "zamach stanu" lub "wrogie przejęcie" przez innych członków zarządu.

"Można to tak nazwać. I rozumiem, dlaczego wybrałeś to słowo. Ale ja się z tym nie zgadzam. Decyzję podjął zarząd, wypełniając swoje obowiązki związane z misją organizacji non-profit. Misją jest stworzenie sztucznej inteligencji w OpenAI, która przyniesie korzyści całej ludzkości".

Nieoczekiwane Konsekwencje

W niedzielę, 19-go, inwestorzy pod przewodnictwem CEO Microsoftu Satyi Nadelli wywarli presję na zarząd OpenAI, wspierając Sama Altmana i nalegając na jego powrót do firmy. Zarząd spółki rozpoczął negocjacje. Sam przedstawił warunki, zgodnie z którymi cały zarząd powinien opuścić OpenAI. Zarząd zaakceptował ten warunek, ale nie dotrzymał terminu wyznaczonego przez Altmana. Rankiem 20 listopada Sam ogłosił, że odrzuca ofertę powrotu do OpenAI jako CEO. Zamiast tego on i Greg Brockman dołączają do zespołu badawczego sztucznej inteligencji Microsoftu.

Po tej wiadomości 505 z 700 pracowników OpenAI napisało list otwarty do kierownictwa firmy, domagając się ich rezygnacji.

"Twoje działania wskazują, że nie jesteś już w stanie zarządzać OpenAI (...). My, niżej podpisani, możemy opuścić firmę i dołączyć do Microsoftu wraz z Samem Altmanem i Gregiem Brockmanem". Microsoft potwierdził, że w nowym oddziale znajdą się miejsca dla wszystkich. Jeśli cały zarząd nie zrezygnuje, przyjmiemy ich ofertę".

Ilya Sutskever jest dwunastym sygnatariuszem listu.

Na swoim profilu X zamieścił później następujący wpis:

Ilya Sutskever: "Głęboko żałuję mojego zaangażowania w działania zarządu. Nie chciałem zaszkodzić OpenAI. Kocham wszystko, co razem stworzyliśmy i zrobię wszystko, co w mojej mocy, aby ponownie zjednoczyć firmę".

Sam Altman i Greg Brockman zacytowali post, komentując go wymownymi emotikonami serca.

Czy Ilya Sutskever był ideologicznym inspiratorem tego zwolnienia, ale przestraszył się nieprzewidywalnych konsekwencji dla firmy, czy też stał się tylko pionkiem w większej grze zarządu? Jest mało prawdopodobne, abyśmy poznali zakulisowe szczegóły tego, co się stało, zanim Netflix nakręci film biograficzny o tej historii.

Jak uzyskać dochód pasywny dzięki nowemu programowi podziału przychodów z reklam X (Twitter)

UPD: 700 z 770 pracowników firmy podpisało list otwarty do zarządu, domagając się ich rezygnacji. Inwestorzy OpenAI pozywają zarząd do sądu.

Co sądzisz o artykule