Весь мир сходит с ума по китайскому ИИ DeepSeek. Зря

Весь мир сходит с ума по китайскому ИИ DeepSeek. Зря

В последние дни по всему миру обсуждают новый релиз китайской нейронки DeepSeek. Это бесплатное (пока) и очень простое приложение, сильно напоминающее ChatGPT: ты просто переписываешься с нейросетью, получая ответы на свои вопросы. DeepSeek не умеет рисовать, зато у неё есть два очень интересных режима, которые даже можно включить одновременно: DeepThink (r1), в котором нейросеть пишет свои «рассуждения» перед ответом, и Search, в котором она основывает ответ не на своих «знаниях», а не результатах поиска в интернете. DeepSeek впечатлила многих своим качеством, обрушила акции американских IT-компаний, а некоторые даже назвали её «концом гонки нейросетей».

Я попереписывался с DeepSeek и, честно говоря, не остался в восторге. Что меня порадовало — так это то, что в режиме DeepSeek «рассуждения» реально связаны с ответом. (Когда я игрался с o1 от OpenAI, мне казалось, что связи нет вообще никакой.) А вот что не понравилось — так это низкая стабильность приложения. Оно иногда очень медленно отвечает, а в режиме DeepThink+Search получить ответ и вовсе практически невозможно (генерация ответа стопается по таймауту). Кроме того, приложение почему-то вообще не хранит переписки локально, только на серверах — если отключить интернет, прочитать их станет невозможно. Кроме того, интерфейс начинается с капчи, проверяющей, видимо, что вы не глупее нейронки:

Ну ладно, давайте начнём. Вот что DeepSeek знает о вашем любимом сайте:

В принципе, всё правильно. Это он даже без веб-поиска ответил, прямо «из головы»! С веб-поиском ответ становится намного подробнее:

Теперь давайте поговорим о нашем главном редакторе, которого вы все знаете как Лысого из МТ. Вы все — знаете, а искусственный интеллект — нет.

Типичная галлюцинация. Придумал какого-то Лысого из МТС и рассказывает о нём, причём очень уверенно. И даже на любые подсказки DeepSeek отвечает: да-да, раньше был редактором Mobiltelefon.ru, а потом стал комиком и начал рекламировать МТС. Настолько уверенные галлюцинации — это плохой знак.

А что насчёт меня? Обо мне DeepSeek вряд ли что-то знает, поэтому позволю ему поискать информацию в интернете. Ну и вместо имени спрошу по никнейму:

Ну... это хотя бы не галлюцинации на каждом шагу. Хотя называть меня аналитиком в сфере обхода санкций — клевета какая-то! Да и ни о какой платформе Infor24 я ни разу не слышал, а «любовь к чёрным котам» и «использование буквы "Ё"» явно пришли в этот текст из моей страницы участника на Википедии, которую я не обновлял уже лет десять. Очень хороший источник информации обо мне, браво, ИИ! Почему DeepSeek сослался на Infor24, а не на Википедию? Видимо, поиск работает в рамках Великого китайского файерволла и никуда толком вылезти не может, вот и ориентируется на какие-то левые сайты, которые по недосмотру не заблокированы.

Давайте теперь почитаем о родном для команды городе Томске.

Поначалу всё неплохо, но под конец нейронку опять понесло. На фразе «Природа вокруг Томска богата лесами и реками, что делает его привлекательным для туристов» я уже смеялся, но когда узнал про аэропорт в Северске — совсем со стула упал. Если что, Северск — закрытый город, куда без пропуска не пускают, никакого аэропорта там нет, он в ровно противоположном направлении от Томска. Почему нейронка придумала аэропорт в Северске?!

Потом я решил позадавать вопросы, которые стали мемами из-за неспособности нейросетей правильно на них ответить. Ну и поскольку вопросы заковыристые, включил режим DeepThink, пусть подумает. Ну и вот, например, классика — рецепт свиных крылышек:

Как и все нейронки, DeepSeek уверенно рассказывает, как именно готовить свиные крылышки. А если поймать её за руку, то искусственный интеллект отвечает с восторгом, что так он и знал.

Шортсы про Алису, считающую, что в ноябре девять вторников, наверное, все видели. DeepSeek же с этим вопросом справляется очень хорошо:

Но вот в его размышлениях можно найти кое-что интересное. «Но, возможно, пользователь ожидает конкретного ответа, предполагая текущий год. Поскольку сейчас октябрь 2023...». А ты точно нейронка 2025 года?

С другими стандартными вопросами DeepSeek тоже справляется очень хорошо. Например, с лёгкостью отвечает, что в слове strawberry три буквы r.

Ну или не с такой уж лёгкостью... Судя по рассуждениям, нейронка никак не могла поверить, что в слове strawberry действительно сразу три буквы R. Не удивлюсь, если дело в том, что этот вопрос стал настолько известен как издёвка над ChatGPT, что разработчики DeepSeek специально дообучили нейронку очень тщательно проверять свой ответ на него.

А ещё у меня возникла такая мысль: если у DeepSeek есть модуль для логических рассуждений, то не получится ли свести его с ума каким-нибудь классическим парадоксом?

Не получилось. Тут хвалю разработчиков. Я даже пытался переформулировать его, чтобы у него не возникло таких явных ассоциаций, но в процессе рассжудений DeepSeek всякий раз обнаруживал, что имеет дело с парадоксом брадобрея. Круто, впечатлён