ИИ-модель-провокатор эффективно отучает чат-боты генерировать опасный контент
Большие языковые модели, подобные тем, что используются в чат-ботах с искусственным интеллектом, обучаются на гигантских объемах текста с миллиардов публичных сайтов. Это приводит к тому, что они могут не только научиться выдавать оскорбительные фразы или описывать противозаконные действия, но и потенциально разглашать личную информацию, которую они почерпнули из сети.
Читать дальше...