Продолжаем серию материалов об угрозах в цифровой среде. В этот раз вновь погорим об искусственном интеллекте – стремительно совершенствующемся цифровом орудии, которое в руках злоумышленников способно причинить обществу невиданный вред. Сегодня реальностью становится то, о чём десятилетия назад рассуждали писатели-фантасты: европейские власти берутся за регулирование синтетического разума. Это первая в истории попытка с помощью закона предотвратить мрачные сценарии цифровой революции. Среди них – неконтролируемый поток дезинформации и новая волна цифрового мошенничества.
Исторический шанс обуздать цифровую стихию
О регулировании искусственного интеллекта (ИИ) в Брюсселе всерьёз задумались ещё в 2021-ом, но с мёртвой точки инициатива сдвинулась только годом позже, когда на мировую сцену вышел чат-бот ChatGPT. Этот виртуальный собеседник стал главной технологической сенсацией последнего времени. Вот только технологии, на которых он построен, в плохих руках могут привести к катастрофическим последствиями, таким как подмена реальности дезинформацией – этого не скрывают даже сами разработчики. Чтобы это предотвратить, страны Евросоюза после изнуряющих переговоров одобрили первый в мире законопроект по регулированию ИИ.
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (I): Вашего ребёнка хотят похитить
- Цифровое чистилище (II): «Алло, здравствуйте, я собираюсь украсть все ваши деньги»
- Цифровое чистилище (III): «Вы продаёте или покупаете что-то в интернете? Тогда мы вас обчистим!»
«Закон об ИИ вызвал бурю страстей… и не случайно! Сегодня все 27 государств-членов одобрили политическое соглашение, достигнутое в декабре. Тем самым они признали идеальный баланс между инновациями и безопасностью, найденный переговорщиками», – в начале февраля заявил еврокомиссар по вопросам внутреннего рынка Тьерри Бретон.
В основе регламента – разделение технологий ИИ на четыре категории риска: неприемлемую, высокую, ограниченную и минимальную. Чем больше вреда правам и безопасности человека может нанести конкретная система, тем строже её будут регулировать, вплоть до запрета. Разработчики генеративного ИИ, способного молниеносно выдавать практически любые тексты, изображения и видео, должны будут помечать такой материал. Также – встраивать в свои разработки предохранители от создания нелегального контента и нарушений авторских прав.
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (IV): «Хотите разбогатеть? Идите к нам, мы вас сделаем нищими!»
- Цифровое чистилище (V): Под прицелом наши дети
- Цифровое чистилище (VI): «Ищешь любовь всей жизни? Подари мне своё сердце и все свои сбережения!»
Осведомлён – значит защищён
Эксперты по цифровому праву говорят, что смысл инициативы ЕС вовсе не в том, чтобы контролировать технологический прогресс на каждом шагу. Скорее – заблокировать наиболее опасные его проявления, а контроль за остальными доверить администраторам онлайн-платформ.
«Что касается социального поведения – например, создания аватаров-дипфейков для соцсетей – запреты, в принципе, предусмотрены. Но большинство других аспектов всё же будут мягко регулироваться, либо саморегулироваться», – поясняет юрист Миндаугас Цивилка.
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (VII): «Привет, меня зовут лже-Илон Маск, и я заставлю тебя инвестировать в мою несуществующую компанию!»
- Цифровое чистилище (VIII): «На ваше имя пришла посылка. Чтобы её забрать, отдайте нам все свои личные данные!»
- Цифровое чистилище (IX): «Ищешь правдивую информацию в соцсетях? Мой бот позаботится, чтобы ты нашел лишь пропаганду!»
Многие специалисты убеждены, что никакой закон не способен остановить злоумышленников и авторитарные страны от злоупотребления новейшими разработками в области ИИ. Тщетны, пожалуй, и попытки внедрить в бездушные нейросети человеческую этику. Куда важнее, чтобы общество было готово даже к плохим сценариям и не теряло способность трезво мыслить.
«Ключевую роль играет просвещение населения. Отношение общества к информации должно измениться. Надо осознавать: то, что мы видим или читаем с очень большой вероятностью является ложью, фейком. Поэтому критическое мышление, неверие своим ушам и глазам человеку нужно прививать с раннего возраста», – подчёркивает Цивилка.
Что предпринимает Литва?
О необходимости регулировать ИИ всё громче говорят и в Литве. Сейме планирует создать специальное госучреждение, которое будет взвешивать и предотвращать угрозы со стороны цифрового разума. Подобный орган в этом году уже заработал в Великобритании.
«Кто-то в Литве должен быть «хозяином» этой сферы. Это должна быть не политическая роль или учреждение, а стабильный департамент или госинститут по ИИ. Он должен действовать устойчиво, независимо от выборов или лидеров, а к работе приступить – как можно скорее. Мы сильно отстаём, поэтому надо запрыгнуть в этот поезд. Если этого не сделаем – в Литве можно будет гасить свет», – считает член парламентского Комитета по вопросам будущего Раса Петраускене.
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (X): «Здравствуй, Литва, теперь мы попытаемся сорвать твой исторический день!»
- Цифровое чистилище (XI): «Думаешь, твои данные в соцсетях в сохранности? С помощью их мы избираем президентов и перекраиваем карту мира!»
- Цифровое чистилище (XII): «Хочешь купить этот продукт с блестящими отзывами? Покупай, но этот отзыв придумал робот!»
Если сидеть сложа руки, подчёркивают правящие, общество столкнётся с небывалыми рисками. Ведь ИИ способен не только отобрать работу у представителей многих профессий, но и стать «атомной бомбой» в руках киберпреступников.
«Разрыв между людьми может сильно возрасти. Сейчас очень небольшой процент населения использует ИИ и знает о его опасностях. В будущем некоторые социальные слои могут становиться жертвами обмана в повседневной жизни. К примеру, ИИ может воссоздать голос родственника, его тембр, а потом позвонить, попросить о помощи. Поэтому уже сейчас необходимо просвещать общество о самом ИИ, его возможностях и угрозах», – предостерегает Петраускене.
Сейм уже разрабатывает правовую базу для использования технологий ИИ. По словам депутатов, основой для этого послужат стандарты ЕС, а в дискуссиях с властями участвуют учёные, бизнесмены и общественники.
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (XIII): «Бери этот новенький телефон за полцены. А когда он вдруг перестанет работать, сможешь лущить им орехи»
- Цифровое чистилище (XIV): «Думаешь, провокации в интернете – это вздор? Тогда приходи на мой несанкционированный митинг!»
- Цифровое чистилище (XV): Тёмная сторона новой информационной революции
Взгляды экспертов
- Миндаугас Цивилка, юрист в сфере информационных технологий: «Европа считает, что ближайшие 20 лет будут решающими, и что ИИ необходимо регулировать – только не сами технологии, а их применение. Выделяются три группы общественных отношений с точки зрения важности и риска для человечества, общества и окружающей среды. Сюда входят и случаи полного запрета на использование ИИ. <…> Среди них – применение технологий, влияющих на подсознательное поведение, таких как дипфейки.»
- Раса Петраускене, член Комитета Сейма по вопросам будущего: «Очень хорошо, что в ЕС есть такое соглашение. Оно состоит из нескольких частей – в них указаны запрещённые и более рискованные виды деятельности с ИИ. Также подготовлены регламенты будущих продуктов или услуг, предусмотрены строгие штрафы. Минус заключается в том, что документ очень долго разрабатывался. Он всё ещё не до конца отредактирован, а переходный период внедрения очень долгий.»
ТАКЖЕ ЧИТАЙТЕ:
- Цифровое чистилище (XVI): На передовой горячей информационной войны
- Цифровое чистилище (XVII): Тест на демократию в предвыборном минном поле
- Цифровое чистилище (XVIII): Под давлением азиатского гиганта
Регламент ЕС, скорее всего, будет окончательно утверждён в мае. Однако в силу новые правила вступят не сразу: некоторые начнут применяться спустя шесть месяцев, другие станут законом лишь через два года. Эксперты также не исключают, что регламент будет «живым» – европейские власти могут регулярно его пересматривать, чтобы идти в ногу со временем.
Фото: Canva.com.
При поддержке:
