Еще пару лет назад все с ужасом кричали: нейросети отнимут у нас работу, напишут дипломы за студентов, завалят биржи фриланса кодом. А что сейчас? Тот же ChatGPT выдает такую чушь, что хочется закрыть вкладку и пойти выпить чаю.
На прошлой неделе я попросил его написать письмо клиенту вежливо, коротко, просто перенести сроки. А получил эссе на три страницы. С выводами, вступлениями, важными моментами. Мне надо было два предложения, Карл.
И все новые модели ведут себя примерно так же. Их выкатывают с помпой, а прирост качества по факту ноль целых хрен десятых. Единственное, в чем прогресс очевиден, нейросети стали быстрее врать. Раньше хотя бы чушь несли интересную. А сейчас скучную. Как чиновники, блин.
Мы уже прошли пик
Да, вот так просто. Где-то в конце 2023-го — начале 2024-го был максимум. Тогда Midjourney в пятой версии наконец-то научился нормально рисовать руки, а ChatGPT еще не вставлял в каждое второе предложение: «Как нейросеть, я не могу иметь собственное мнение». А потом начали закручивать гайки. Лицензии, политики, регуляторы, корпоративные ограничения. ИИ задушили этими же правилами.
Теперь модель боится лишнее слово сказать. Спросишь про погоду выдаст пять дисклеймеров, что она не метеоролог. Блин, я и так знаю, что ты не метеоролог, тупая железка. Просто скажи «на улице +15», и все.
Самое смешное, что бюджеты под эти дела выделяют космические. Миллиарды долларов. NVIDIA вообще в раю их акции выросли как на дрожжах. А толку? Производительность на бумаге выросла, а реальной сообразительности нет.
Ребята из Microsoft и Google уже поняли, что впереди стена. Всю человеческую информацию скормили: книги, статьи, форумы, мемы, даже переписки. А новый толстый слой данных взять неоткуда. Пытаться кормить нейросеть тем, что сгенерировала другая нейросеть? Это как скармливать ей ее же собственный кал. Закончится плохо.
Недавно наткнулся на статью про your scaling is failing. Говоря по русски — закон масштабирования больше не работает. Больше данных, больше гигагерц, больше гигабайт не равно умнее. Ты просто быстрее бежишь в непонятно куда.
В комментариях на Хабре люди правильно пишут: мы уперлись в пик. Дальше если не случится какой-то принципиально новой архитектуры или реального прорыва, будем полировать ответы на 0,5 процента за миллиард долларов.
Пусть вундеркинды инженеры что-нибудь придумают. А пока я лучше сам письмо клиенту напишу.
Написать в Telegram 
сайт 
Website 
YouTube 
