arXiv: искусственный интеллект подконтролен человеку

Большие языковые модели, которые являются искусственным интеллектом (ИИ), способны самостоятельно осваивать новые навыки. Однако их достаточно просто контролировать, так как они остаются предсказуемыми, говорится в исследовании, опубликованном на сервере препринтов arXiv.

«ИИ наиболее эффективны, когда выполняют задачи на основе предоставленных примеров. Модели следуют инструкциям и четко выполняют указания, однако они не способны отклоняться от основного плана», — пишет «Lenta.ru» со ссылкой на исследование.

Ученые успокаивают: вероятность выхода ИИ из-под контроля является небольшой. Однако при всей своей безобидности ИИ все же может нанести человеку вред — его уже используют в преступных целях или для создания фейков.

На Ямале за два месяца ИИ помог разыскать 16 пропавших и 200 правонарушителей. Технологию распознавания лиц интегрировали в систему видеонаблюдения по всему округу.