Неуправляемый прогресс ИИ и взрывной рост киберпреступности

Один из недавних случаев подобной атаки связан с вредоносным ПО Gold Pickaxe, описанным в отчете компании Group-IB. Это вредоносное программное обеспечение попадает на устройства пользователей через обманные приложения, взаимодействующие с камерой устройства. После установки мошенники используют украденные биометрические данные для различных целей.

Представители OpenAI и Microsoft отмечают, что нейросети играют ключевую роль в деятельности киберпреступников. Они применяются для программирования, перевода текстов, создания фишинговых контентов и реалистичных дипфейков, которые затем используются для доступа к банковским счетам. Этот подход становится все более изощренным благодаря использованию искусственного интеллекта.

Распространение вредоносных программ, как правило, осуществляется через приложения, маскирующиеся под популярные сервисы, такие как Google Play для Android или TestFlight для iOS. Хакеры, в основном, активны в Азиатско-Тихоокеанском регионе, однако их атаки могут затронуть пользователей по всему миру.


Для борьбы с угрозой киберпреступности, организации, связанные с искусственным интеллектом, такие как OpenAI, предпринимают меры по обнаружению и блокировке аккаунтов преступных группировок. Несмотря на усилия специалистов по кибербезопасности, рост уровня угрозы подчеркивает необходимость правового регулирования технологий, таких как дипфейки, для предотвращения их злоупотребления.

Минцифры, совместно с МВД и Роскомнадзором, уже активно работает над этим вопросом с целью представить рекомендации по правовому регулированию до ноября 2024 года.

Ранее писали:
Искусственный интеллект грозит глобальной безопасности мира: новые исследования. Проведенное американскими учеными исследование оценило эффективность искусственного интеллекта в симуляции международных конфликтов. Путем использования чат-ботов от OpenAI ученые стремились оценить их способность к моделированию военных сценариев.

Прогресс в робототехнике: роботы-гуманоиды уже существуют. Робототехника переживает заметный подъем в последние годы, расширяя горизонты в различных областях. Особенно интересны два значительных достижения в этой сфере: хирургические роботы, используемые на Международной космической станции (МКС), и автономные роботы Eve.

ИИ убьет человечество: мы впервые столкнулись с тем, кто гораздо разумнее нас На британском саммите по безопасности искусственного интеллекта Илон Маск предположил, что ИИ сможет убить человечество. И такая вероятность существует.