Фотографии австралийских младенцев незаконно использовали для обучения ИИ
Изображения австралийских детей используются для создания мощных инструментов искусственного интеллекта (ИИ) без согласия или ведома родителей.
Фотографии удаляются из интернета и помещаются в большие наборы данных, которые компании могут использовать для последующего обучения генеративных систем ИИ, сообщают правозащитники.
После этого другие могут использовать инструменты для создания глубоко поддельных изображений, подвергая детей риску эксплуатации.
«Дети не должны жить в страхе, что их фотографии могут украсть и использовать против них как оружие», — говорится в заявлении австралийской правозащитницы Хе Чжон Хан.
«Правительству Австралии следует срочно принять законы для защиты данных детей от неправомерного использования с помощью ИИ».
Правозащитники проанализировали часть из 5,85 млрд изображений и подписей к ним в наборе обучающих данных LAION-5B для ИИ и обнаружили 190 фотографий детей из Австралии, от новорождённых младенцев до школьников в костюмах Недели книги.
Австралийский специалист по обработке данных Ян Опперманн сказал, что использование изображений было видом «сопутствующего ущерба», связанного с тем, что он назвал «грубым и небрежным» сбором данных для создания ИИ.
«Не так уж сложно подумать о таких важных проблемах, прежде чем запускать приложения для сбора данных, — сказал он The Epoch Times. — Это также требует от нас более тщательного анализа того, что мы добровольно размещаем в интернете».
Между тем г-жа Хан заявила, что обнаружение австралийских изображений означает, что и родители, и политики должны обратить на это внимание.
«Дети имеют право на безопасность там, где они живут, учатся и играют, в том числе онлайн», — сказала она.
«Для предотвращения и устранения подобных нарушений в будущем срочно необходимы изменения в законодательстве, регулировании и отраслевой практике».
Ожидается, что федеральное правительство Австралии внесёт в парламент в августе поправки к Закону о конфиденциальности, включая Кодекс о конфиденциальности детей в интернете.
Это последовало за введением в Австралии в прошлом месяце законов, криминализирующих создание и распространение поддельных изображений и видео сексуального характера без согласия автора.