Искусственный интеллект своими возможностями все больше покоряет интернет-пользователей. Наступает эпоха, когда уже невозможно отличить вымышленных персонажей на видео или фото от реальных людей. Одни утверждают, что это опасно, другие считают новыми возможностями для творчества. А вот в духовном управлении мусульман Казахстана и вовсе называют фальшивые материалы, сделанные при помощи ИИ - харамом. В частности, речь идет о контенте, созданном для обмана людей в корыстных целях. Пользу и риски искусственного интеллекта оценила Лаура Утегенова.
Искусственный интеллект все чаще заменяет людей в соцсетях от виртуальных моделей до «реалистичных» фото и видео, которые собирают тысячи просмотров. Но теперь за контент, созданный нейросетью, без пометки «ИИ» в Казахстане будут штрафовать. После принятия закона об искусственном интеллекте собственников и владельцев ИИ-систем обязали маркировать все синтетические материалы. За отсутствие такой пометки предусмотрены штрафы от 15 до 100 МРП, от 60 до 400 тысяч тенге. При повторном нарушении суммы вырастают вдвое, а работу ИИ-системы могут приостановить или вовсе запретить. Власти подчеркивают: цель нововведений - защитить пользователей от обмана и скрытых манипуляций.
ПАВЕЛ КАЗАНЦЕВ, ДЕПУТАТ МАЖИЛИСА ПАРЛАМЕНТА РК, ЧЛЕН ФРАКЦИИ «АMANAT»:
Понятно, что это будет комиссия, которая будет рассматривать контент. Это будут обращения тех же самых граждан. Тех же самых общественных объединений. Конструкция построена так, что любое обращение от людей по поводу значит искусственного и не искусственного интеллекта, продукт искусственного и не искусственного интеллекта, если подтверждается, что это искусственный интеллект, и он не помечен, не проинформирован человек, что это продукт искусственного интеллекта, здесь будет вступать принцип розетки. Будет сразу вступать наказание.
Духовное управление мусульман Казахстана в свою очередь признало дипфейки, создание фальшивых видео и аудио с помощью искусственного интеллекта - харамом. Речь идет о материалах, созданных для обмана людей в корыстных целях. По мнению ДУМК, такой контент может причинять вред, разрушать репутацию и даже угрожать жизни, а распространение ложной информации строго запрещено. Чаще всего дипфейки используют для клеветы, подмены слов и действий людей, даже в шутливой форме, что также считается обманом.
ДУХОВНОЕ УПРАВЛЕНИЕ МУСУЛЬМАН КАЗАХСТАНА:
Ислам не запрещает развитие науки и техники, открытие новшеств. Однако это развитие должно основываться на благе человечества, справедливости и нравственности и должно осуществляться в рамках шариата. Поэтому любая технология разрешена, если используется в благих целях, и запрещена, если используется в злых, вредных целях. Технология «дипфейк», использующая фейковые новости, чтобы заставить кого-то сказать то, чего он на самом деле не говорил, или сделать то, чего он не делал, строго запрещена шариатским правом. Такие фейковые новости могут нарушить мир в стране и вызвать раскол в обществе.
В Министерстве цифровизации объяснили, как правильно пользоваться искусственным интеллектом и маркировать материалы. Существует два вида маркировки: визуальная и машиночитаемая. Визуальная маркировка означает, что гражданин, получая материал, подготовленный ИИ, может сразу визуально увидеть, что это синтетический контент. Это может быть текст, изображение или эмблема официальной компании, создающей материал, чтобы человек понимал, что он создан с помощью искусственного интеллекта.
АБАЙ АСЫГАТ, ГЛАВНЫЙ ЭКСПЕРТ УПРАВЛЕНИЯ ГОСУДАРСТВЕННОЙ ПОЛИТИКИ КОМИТЕТА ЦИФРОВЫХ АКТИВОВ И ПРОРЫВНЫХ ТЕХНОЛОГИЙ:
Есть еще второй вариант - это машиночитаемая форма. Что это означает? Это, к примеру, допустим, вы создали картинку при помощи искусственного интеллекта, но хотите опубликовать её на сайте под своим именем. В таком случае этот сайт может проверить, с точки зрения того, как сформирован файл, и там будет в техническом описании, что эта картинка создана при помощи искусственного интеллекта.
Некоторые специалисты напротив заверяют, что ИИ открывает большие возможности для медиасферы. Так, в социальных сетях распространился образ искусственной девушки Айлин, которая пугает своей реалистичностью. Формат изначально был экспериментом, но быстро превратился в полноценный продукт.
Сам автор и создатель Айлин отмечает, что со временем отличить ИИ-контент от созданного человеком станет все сложнее, поэтому важно оценивать не столько техническую реалистичность, сколько контекст: кто публикует материал, с какой целью и как выстроена коммуникация.
АЛЕКСЕЙ, СПЕЦИАЛИСТ ПО НЕЙРОСЕТЯМ:
Я вижу в этом в первую очередь инструмент, который сильно расширяет возможности человека. Он ускоряет процессы, снижает входной порог в творчество и позволяет реализовывать идеи, на которые раньше не хватало ни ресурсов, ни времени. В работе мы используем ИИ как способ быстро создавать визуальные концепции, тестировать гипотезы, запускать новые форматы и смотреть, как на них реагирует аудитория. Это не замена человеку, а усиление его возможностей.
ЛАУРА УТЕГЕНОВА, КОРРЕСПОНДЕНТ:
Так где же проходит граница? Искусственный интеллект открывает огромные возможности - новые форматы, креатив и скорость работы. Но вместе с этим появляются риски: обман, подмена слов и действий, фейковые материалы. Все хорошо, если использовать технологии с умом, но главное - будьте внимательны, перепроверяйте информацию и доверяйте проверенным источникам. Так вы сможете безопасно пользоваться преимуществами ИИ, не попав в ловушку обмана.