Стало известно угрожает ли человечеству ChatGPT

Об этом сообщает «Politexpert» со ссылкой на IFLScience

В последние месяцы особенно много внимания привлекли модели ИИ вроде ChatGPT, продемонстрировавшие впечатляющие способности в обработке и генерации текста. Это, естественно, породило тревогу, что ИИ может угрожать не только рабочим местам, но и самому существованию человечества.

Не так давно, один из самых известных технологических предпринимателей, Илон Маск, выражал беспокойство, утверждая, что искусственный интеллект может стать реальной угрозой для будущего. Однако, новое исследование показывает, что подобные опасения могут быть преувеличены.

Выяснилось, что современные генеративные модели, такие как ChatGPT, не способны к самостоятельному обучению и приобретению новых навыков без участия человека. Это ставит под сомнение их потенциальную опасность на уровне экзистенциальной угрозы.

Алгоритмы LLM обучаются на огромных массивах данных, что позволяет им создавать контент и понимать естественный язык на высоком уровне. Тем не менее, эксперты до сих пор опасались, что модели могут демонстрировать способности, которые не были заложены в них изначально. Это вызывало страх перед возможностью ИИ начать формулировать собственные суждения и планы.

Новое исследование опровергает эти опасения, показывая, что без четких инструкций ИИ не способен осваивать новые навыки. Таким образом, модели остаются предсказуемыми и контролируемыми, несмотря на их возможное использование в недобросовестных целях.

С ростом возможностей этих моделей, они, вероятно, станут более точными в выполнении задач, особенно при получении детализированных указаний. Однако ожидать, что они смогут проявить самостоятельные рассуждения, пока не приходится.

Напомним, ранее мы писали о том, что SpaceX запустит в космос самый быстрый в истории ИИ-компьютер.