“Красивые, но ненастоящие“: как ИИ-блогеры захватывают Казнет и почему это может быть опасно
Искусственный интеллект незаметно стал частью повседневной жизни. Если раньше нейросети рисовали картинки и писали тексты, то теперь они создают "людей", которые танцуют, ведут блоги и даже собирают признания в любви от ничего не подозревающих казахстанцев. Tengri Life разобрался, как работает этот тренд, чем он опасен и что об этом думают в профильных министерствах.
Люди, которых не существует
В лентах Instagram и TikTok всё чаще появляются страницы пользователей с "идеальной" внешностью. Например, Дина из Алматы — девушка с витилиго. В одном из видео она едет по городу и напевает песню. Ролик собрал около 50 тысяч лайков.
View this post on Instagram
A post shared by Дина | Девочка Витилиго (@dina_manii)
Другой персонаж — Адеринке, "афроказашка" с нигерийскими корнями. Видео с её историей происхождения набрало около 80 тысяч лайков.
View this post on Instagram
A post shared by Адеринке | переехала жить в Астану | prod. by Диас Сатаев (@aderinke_a)
В комментариях под публикациями можно встретить пользователей, которые поверили в существование девушек.
"Очаровашка!", "Вот это сочетание! У красивых родителей и дети красивые", "Мама красавица, и ты тоже", "Очень красивая получилась метисочка", "У нас будут красивые дети", "Мне 20 лет, был бы очень рад, если бы ты со мной хотя бы познакомилась", — написали комментаторы.
Кража лиц
Красивая картинка редко берется из ниоткуда. Выяснилось, что многие ИИ-ролики — это дипфейки, наложенные на видео реальных блогеров. Мошенники берут видео популярной девушки, с помощью нейросети меняют ей лицо, и вуаля — готов "уникальный" контент.
@zhannaxi #жануля #имаш #шокконтент???? #ерке #рус @жануля???????? ♬ оригинальный звук - тгк:spotivaf1
Одна из казахстанок уже пожаловалась на подобную кражу: её движения и мимику полностью скопировали, просто заменив внешность. Такие видео набирают сотни тысяч просмотров.
@aiymaaman
я в шоке
♬ оригинальный звук - spotify.sdp
Где риск
Зачем создавать подобный контент? Ответ прост: деньги.
Анкеты знакомств
Классический сценарий — поддельный профиль девушки, переписка, эмоциональная привязанность и просьбы о материальной помощи. C использованием ИИ создать образ получается ещё легче.
Один из таких случаев произошёл в Tinder: в Астане мошенник под именем Нурай выманил у доверчивого парня 4 миллиона тенге. Суд назначил ему 3 года ограничения свободы.
Инциденты со знаменитостями
Подобные схемы работают и с известными людьми. В России пенсионерка "общалась" по видеозвонку с Чонгуком из BTS. "Айдол" был настолько убедителен, что женщина перевела мошенникам почти 650 тысяч рублей (4,3 миллиона тенге) за "налоги" и "организацию встречи", после чего "Чонгук" исчез.
View this post on Instagram
A post shared by Коса. Медиа и комьюнити для женщин (@kosa_media)
Фейковые розыгрыши
Ещё один сценарий — создать популярного ИИ-персонажа, набрать подписчиков, а затем проводить фиктивные конкурсы, гивы и лотереи, собирая деньги с подписчиков. После аккаунт просто исчезает вместе с выручкой.
Что рассказали в Министерстве ИИ
Мы обратились в Министерство искусственного интеллекта, чтобы понять: законно ли это вообще?
Если речь идет об авторстве, то нейросеть не делает чужое видео "общим". В случае если вы взяли ролик блогера и наложили ИИ-фильтр — вы нарушили авторские права. Разрешение автора нужно получать в любом случае.
"В соответствии со статьей 23 закона произведения, созданные с использованием систем искусственного интеллекта, охраняются авторским правом только в случае наличия творческого вклада человека в их создание. Использование произведений для обучения моделей искусственного интеллекта не относится к случаям свободного использования произведений и допускается только при отсутствии запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме", — объяснили в ведомстве.
Если ваше лицо или контент использовали без спроса, закон защищает вас так же, как если бы кто-то просто украл ваше фото и напечатал его на баннере. Никаких изменений для ИИ нет. Ответственность наступает по закону об авторском праве и смежных правах.
Чтобы контент считался вашим, в него нужно вложить "творческий вклад", а не просто использовать чужой референс.
"В соответствии с подпунктом 3) пункта 1 статьи 16 закона пользователи вправе осуществлять меры по защите своих прав на объекты прав интеллектуальной собственности, созданные с использованием систем ИИ, а также в соответствии со статьёй 24 возмещение вреда осуществляется в порядке, определённом Гражданским кодексом. Закон закрепляет, что ИИ-контент может охраняться авторским правом при наличии творческого вклада человека", — добавили в ведомстве.
Куда жаловаться
Если ваше лицо или видео украли для создания ИИ-персонажа, алгоритм действий пока стандартный:
писать жалобу в поддержку соцсети;
подавать официальное обращение через портал e-Otinish;
идти в суд с иском о нарушении авторских прав или защите чести и достоинства.
Кто отвечает за ИИ-аккаунты и их доходы
В министерстве объяснили, что к ИИ-аккаунтам, как и к любым другим, применяются общие правила и нормы действующего законодательства Казахстана.
"В том числе они подлежат регулированию налоговыми, рекламными и гражданско-правовыми нормами, аналогичными тем, что применяются к реальным аккаунтам, принадлежащим физическим лицам", — отметили в ведомстве.
Ответственность за всё, что делает и зарабатывает нейросеть, несет её "хозяин".
"В случае с ИИ-аккаунтами мы также имеем дело с аккаунтами, владельцы которых могут зарабатывать на контенте, будь то реклама или иные формы монетизации. Важно, что такие действия подлежат налогообложению, и ответственность лежит на владельцах аккаунтов, как и в случае с реальными личными аккаунтами", — объяснили в министерстве.
По закону "Об искусственном интеллекте" любой ИИ-контент обязан иметь маркировку. Зритель должен четко видеть надпись: "Создано ИИ" или "Сгенерировано ИИ".
"Ответственность за информирование пользователей о синтетических результатах деятельности систем ИИ возлагается на собственников или владельцев таких систем. Для чего вводится маркировка ИИ-контента: пользователи должны понимать, какой контент был создан или изменен с помощью ИИ", — подчеркнули в ведомстве.
За отсутствие плашки предусмотрены штрафы:
для физических лиц (владельцы или собственники) — 15 МРП;
для малого бизнеса или некоммерческих организаций — 20 МРП;
для среднего бизнеса — 30 МРП;
для крупного бизнеса — 100 МРП.
Массово проверять личные аккаунты казахстанцев никто не собирается. Контроль коснется только бизнеса и владельцев ИИ-платформ.
"Контрольно-надзорную деятельность будет осуществлять уполномоченный орган в сфере ИИ, который будет реагировать на обращения, жалобы, а также на результаты мониторинга публичных ресурсов и официальных каналов распространения", — подытожили в ведомстве.
Что с налогами блогеров и ИИ-персонажей
В Комитете государственных доходов напомнили: если аккаунт приносит деньги (реклама, донаты), налоги платить нужно независимо от того, реальный человек это или виртуальный персонаж.
"Исполнение налоговых обязательств блогерами осуществляется на общих основаниях наряду с другими гражданами и предпринимателями, что соответствует принципу справедливости налогообложения. Камеральный контроль проводится в равной степени в отношении всех лиц, получающих доходы, подлежащие самостоятельному налогообложению", – отметили в КГД.
Проверять таких "авторов" будут с помощью камерального контроля. Цель такой проверки — не сразу оштрафовать, а дать шанс владельцу аккаунта самому прийти, всё подсчитать и уплатить честно.
Налоговики проверяют данные через:
камеральный контроль;
анализ деклараций;
сопоставление информации из разных источников.
К слову, недавно звезда TikTok Хаби Лэйм продал права на использование своего лица и ИИ-двойника почти за 1 миллиард долларов.
Читайте также: Селфи с “президентом“ и “роман“ с Брэдом Питтом: что грозит казахстанцам за ИИ-фейки
Люди, которых не существует
В лентах Instagram и TikTok всё чаще появляются страницы пользователей с "идеальной" внешностью. Например, Дина из Алматы — девушка с витилиго. В одном из видео она едет по городу и напевает песню. Ролик собрал около 50 тысяч лайков.
View this post on Instagram
A post shared by Дина | Девочка Витилиго (@dina_manii)
Другой персонаж — Адеринке, "афроказашка" с нигерийскими корнями. Видео с её историей происхождения набрало около 80 тысяч лайков.
View this post on Instagram
A post shared by Адеринке | переехала жить в Астану | prod. by Диас Сатаев (@aderinke_a)
В комментариях под публикациями можно встретить пользователей, которые поверили в существование девушек.
"Очаровашка!", "Вот это сочетание! У красивых родителей и дети красивые", "Мама красавица, и ты тоже", "Очень красивая получилась метисочка", "У нас будут красивые дети", "Мне 20 лет, был бы очень рад, если бы ты со мной хотя бы познакомилась", — написали комментаторы.
Кража лиц
Красивая картинка редко берется из ниоткуда. Выяснилось, что многие ИИ-ролики — это дипфейки, наложенные на видео реальных блогеров. Мошенники берут видео популярной девушки, с помощью нейросети меняют ей лицо, и вуаля — готов "уникальный" контент.
@zhannaxi #жануля #имаш #шокконтент???? #ерке #рус @жануля???????? ♬ оригинальный звук - тгк:spotivaf1
Одна из казахстанок уже пожаловалась на подобную кражу: её движения и мимику полностью скопировали, просто заменив внешность. Такие видео набирают сотни тысяч просмотров.
@aiymaaman
я в шоке
♬ оригинальный звук - spotify.sdp
Где риск
Зачем создавать подобный контент? Ответ прост: деньги.
Анкеты знакомств
Классический сценарий — поддельный профиль девушки, переписка, эмоциональная привязанность и просьбы о материальной помощи. C использованием ИИ создать образ получается ещё легче.
Один из таких случаев произошёл в Tinder: в Астане мошенник под именем Нурай выманил у доверчивого парня 4 миллиона тенге. Суд назначил ему 3 года ограничения свободы.
Инциденты со знаменитостями
Подобные схемы работают и с известными людьми. В России пенсионерка "общалась" по видеозвонку с Чонгуком из BTS. "Айдол" был настолько убедителен, что женщина перевела мошенникам почти 650 тысяч рублей (4,3 миллиона тенге) за "налоги" и "организацию встречи", после чего "Чонгук" исчез.
View this post on Instagram
A post shared by Коса. Медиа и комьюнити для женщин (@kosa_media)
Фейковые розыгрыши
Ещё один сценарий — создать популярного ИИ-персонажа, набрать подписчиков, а затем проводить фиктивные конкурсы, гивы и лотереи, собирая деньги с подписчиков. После аккаунт просто исчезает вместе с выручкой.
Что рассказали в Министерстве ИИ
Мы обратились в Министерство искусственного интеллекта, чтобы понять: законно ли это вообще?
Если речь идет об авторстве, то нейросеть не делает чужое видео "общим". В случае если вы взяли ролик блогера и наложили ИИ-фильтр — вы нарушили авторские права. Разрешение автора нужно получать в любом случае.
"В соответствии со статьей 23 закона произведения, созданные с использованием систем искусственного интеллекта, охраняются авторским правом только в случае наличия творческого вклада человека в их создание. Использование произведений для обучения моделей искусственного интеллекта не относится к случаям свободного использования произведений и допускается только при отсутствии запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме", — объяснили в ведомстве.
Если ваше лицо или контент использовали без спроса, закон защищает вас так же, как если бы кто-то просто украл ваше фото и напечатал его на баннере. Никаких изменений для ИИ нет. Ответственность наступает по закону об авторском праве и смежных правах.
Чтобы контент считался вашим, в него нужно вложить "творческий вклад", а не просто использовать чужой референс.
"В соответствии с подпунктом 3) пункта 1 статьи 16 закона пользователи вправе осуществлять меры по защите своих прав на объекты прав интеллектуальной собственности, созданные с использованием систем ИИ, а также в соответствии со статьёй 24 возмещение вреда осуществляется в порядке, определённом Гражданским кодексом. Закон закрепляет, что ИИ-контент может охраняться авторским правом при наличии творческого вклада человека", — добавили в ведомстве.
Куда жаловаться
Если ваше лицо или видео украли для создания ИИ-персонажа, алгоритм действий пока стандартный:
писать жалобу в поддержку соцсети;
подавать официальное обращение через портал e-Otinish;
идти в суд с иском о нарушении авторских прав или защите чести и достоинства.
Кто отвечает за ИИ-аккаунты и их доходы
В министерстве объяснили, что к ИИ-аккаунтам, как и к любым другим, применяются общие правила и нормы действующего законодательства Казахстана.
"В том числе они подлежат регулированию налоговыми, рекламными и гражданско-правовыми нормами, аналогичными тем, что применяются к реальным аккаунтам, принадлежащим физическим лицам", — отметили в ведомстве.
Ответственность за всё, что делает и зарабатывает нейросеть, несет её "хозяин".
"В случае с ИИ-аккаунтами мы также имеем дело с аккаунтами, владельцы которых могут зарабатывать на контенте, будь то реклама или иные формы монетизации. Важно, что такие действия подлежат налогообложению, и ответственность лежит на владельцах аккаунтов, как и в случае с реальными личными аккаунтами", — объяснили в министерстве.
По закону "Об искусственном интеллекте" любой ИИ-контент обязан иметь маркировку. Зритель должен четко видеть надпись: "Создано ИИ" или "Сгенерировано ИИ".
"Ответственность за информирование пользователей о синтетических результатах деятельности систем ИИ возлагается на собственников или владельцев таких систем. Для чего вводится маркировка ИИ-контента: пользователи должны понимать, какой контент был создан или изменен с помощью ИИ", — подчеркнули в ведомстве.
За отсутствие плашки предусмотрены штрафы:
для физических лиц (владельцы или собственники) — 15 МРП;
для малого бизнеса или некоммерческих организаций — 20 МРП;
для среднего бизнеса — 30 МРП;
для крупного бизнеса — 100 МРП.
Массово проверять личные аккаунты казахстанцев никто не собирается. Контроль коснется только бизнеса и владельцев ИИ-платформ.
"Контрольно-надзорную деятельность будет осуществлять уполномоченный орган в сфере ИИ, который будет реагировать на обращения, жалобы, а также на результаты мониторинга публичных ресурсов и официальных каналов распространения", — подытожили в ведомстве.
Что с налогами блогеров и ИИ-персонажей
В Комитете государственных доходов напомнили: если аккаунт приносит деньги (реклама, донаты), налоги платить нужно независимо от того, реальный человек это или виртуальный персонаж.
"Исполнение налоговых обязательств блогерами осуществляется на общих основаниях наряду с другими гражданами и предпринимателями, что соответствует принципу справедливости налогообложения. Камеральный контроль проводится в равной степени в отношении всех лиц, получающих доходы, подлежащие самостоятельному налогообложению", – отметили в КГД.
Проверять таких "авторов" будут с помощью камерального контроля. Цель такой проверки — не сразу оштрафовать, а дать шанс владельцу аккаунта самому прийти, всё подсчитать и уплатить честно.
Налоговики проверяют данные через:
камеральный контроль;
анализ деклараций;
сопоставление информации из разных источников.
К слову, недавно звезда TikTok Хаби Лэйм продал права на использование своего лица и ИИ-двойника почти за 1 миллиард долларов.
Читайте также: Селфи с “президентом“ и “роман“ с Брэдом Питтом: что грозит казахстанцам за ИИ-фейки