Вильнюс 9 News 9 Новости 9 Главное 9 Цифровое чистилище (XV): Тёмная сторона новой информационной революции

Цифровое чистилище (XV): Тёмная сторона новой информационной революции

2024-02-19 | Главное, Рекомендуем

Продолжаем серию материалов о преступлениях в цифровой среде. Ранее мы уже обсуждали, как искусственный интеллект вводит в заблуждение пользователей соцсетей и клиентов интернет-магазинов. В этот раз взглянем глубже на угрозы со стороны синтетического разума и от практики, которая сопровождала все прошлые 14 серий нашего цикла, разберёмся в теории. Разработчики, эксперты и политики бьют тревогу – новейшие нейросети позволяют даже второсортным злоумышленникам совершать губительные кибератаки, сеять информационную неразбериху. Евросоюз уже взял на себя миссию первым в мире начать регулировать эту одновременно многообещающую и опасную технологию.

На пороге революционных перемен

В последнее время всё чаще можно услышать размышления о том, что человечество – на пороге революции искусственного интеллекта (ИИ). И действительно, нейронные сети уже сейчас способны облегчить повседневность: писать компьютерные программы, качественно переводить текст, упорядочивать огромные объёмы информации. Перемены наступают и в культурной жизни – машина научилась писать стихи, создавать картины, сочинять музыку и даже ваять скульптуры. А прошлой весной в Литве робот под присмотром хирурга впервые успешно удалил опухоль. Вот только самих разработчиков ИИ тревожит другая, тёмная сторона грядущих перемен.

ТАКЖЕ ЧИТАЙТЕ: 

«Меня особенно беспокоит то, что эти модели могут использоваться для масштабной дезинформации. К тому же, теперь они все лучше пишут компьютерный код и могут применяться в агрессивных кибератаках», – так Сэм Альтман, создатель виртуального помощника ChatGPT, отзывается о технологии, на которой построено его нашумевшее творение.

Не так давно сотни тяжеловесов технологического сообщества, включая Илона Маска, подписали открытое письмо, полное тревоги. В нём – призыв заморозить разработку сверхмощных систем ИИ, так как они представляют «серьёзный риск для общества и человечества».

Благими намерениями путь в антиутопию мощён

О том, что с внедрением ИИ во все сферы жизни приходят не только футуристические блага, но и уйма угроз, предупреждает и Всемирный экономический форум (ВЭФ). В январе эта влиятельная организация опубликовала отчёт, где главным непосредственным риском для мировой экономики названа дезинформация, усиленная передовыми нейросетями.

ТАКЖЕ ЧИТАЙТЕ: 

«С помощью ИИ можно создавать дипфейки и воздействовать на большие группы людей, а это способствует быстрому распространению дезинформации», – подчёркивает шведский эксперт по управлению рисками Каролина Клинт, чья компания помогла составить отчёт для ВЭФ.

По её словам, «не нужно быть гением, чтобы стать злоумышленником» и с помощью нейросетей создавать опасные вирусы, проводить автоматизированные кибератаки. К тому же, возникает риск раскола общества, поскольку людям всё сложнее найти правдивые данные. Демократические процессы и вовсе могут быть подорваны, поскольку киберпреступники через фальшивую информацию способны поставить под сомнение легитимность избранных властей.

Словно в подтверждение подобных опасений «крёстный отец» нейросетей Джеффри Хинтон в прошлом году уволился из Google, публично сожалея о своей работе, которая привела к созданию программ, подобным ChatGPT. Они, по мнению учёного, представляют собой экзистенциальную угрозу для человечества.

ТАКЖЕ ЧИТАЙТЕ: 

Подмена реальности

А на кону стоит действительно многое. Ведь генеративный ИИ умеет имитировать абсолютно всё, что встречается в интернете – от текста и изображений до аудиозаписей и видеороликов. Это означает, что злоумышленникам подготовлена очень благодатная почва для неэтичных или даже преступных действий в информационных просторах.  И если ещё несколько лет назад попытки ИИ воспроизвести реальность зачастую казались примитивными – то сегодня результат работы искусственного разума порой невероятно сложно отличить от подлинного контента.

Во-первых, ИИ способен с лёгкостью написать практически любой текст – комментарии, новости, статьи, при этом имитируя слог человека. Злоумышленники эту технологию используют, к примеру, для генерирования фальшивых новостей.

С той же легкостью ИИ создаёт и изображения, фотографии – например, реальных или несуществующих людей. Многие такие творения крайне реалистичны, так что мошенники и другие злоумышленники используют их для создания фальшивых профилей в соцсетях.

Видеоролики, сгенерированные нейросетями, также набирают популярность. Особо зловещее применение находит технология дипфейков. С помощью её недоброжелатели создают подобия знаменитостей, чтобы уговаривать людей слать им деньги. Бывают и случаи, когда злоумышленники сеют разногласие в обществе, вкладывая в уста политиков компрометирующие слова, которых они на самом деле не произносили. Подобные уловки используются и при фальсификации аудиозаписей – например, разговоров «мировых лидеров» по телефону.

ТАКЖЕ ЧИТАЙТЕ:

Комментарии экспертов

  • Томас Крилавичюс, декан Факультета информатики Университета Витаутаса Великого: «Меня больше всего беспокоит то, что из-за ИИ объём получаемой нами информации лишь увеличится. А тогда будет сложнее отличить, какая информация реальна, а какая нет».
  • Ричардас Савукинас, блогер: «Facebook, к примеру, блокирует пользователей, которые настроены проукраински или высказываются о каких-либо проблемах. При этом платформа никак не реагирует на ложные утверждения, либо даже их продвигает. А всё потому, что в какой-то момент искусственный интеллект решил, что одно хорошо, а другое – плохо».

Гонка с прогрессом

Создать предохранители уже спешат правительства по всему миру. В прошлом году в Великобритании был учреждён первый в мире институт безопасности ИИ. Ему поручено выявлять различные угрозы – от распространения дезинформации до возникновения экзистенциальных рисков. Лидеры «Большой семёрки», в свою очередь, уже согласовали принципы этичной разработки нейросетей. Между тем страны ЕС после напряжённых переговоров в этом году одобрили свод правил по ограничению применения ИИ. Принятый правовой акт станет первой в мире попыткой регулировать эти мощные технологии.

ТАКЖЕ ЧИТАЙТЕ:

Фото: Canva.com.

При поддержке:

Последние новости из Вильнюса

Национальный концертный зал — в категории «Лучший новый проект» на премии MIPIM

Национальный концертный зал — в категории «Лучший новый проект» на премии MIPIM

На горе Таурас в Вильнюсе строится Национальный концертный зал — амбициозный проект, который откроется в 2028 году. Несмотря на то, что строительство еще продолжается, зал уже получил международное признание, став одним из четырех номинантов в категории...

В Вильнюсском районе в прошлом году родилось 1034 малыша — 546 мальчиков и 488 девочек

В Вильнюсском районе в прошлом году родилось 1034 малыша — 546 мальчиков и 488 девочек

В 2024 году в Вильнюсском районном отделе регистрации актов гражданского состояния было зарегистрировано 1034 рождения (546 мальчиков и 488 девочек), включая 18 пар двойняшек и одну тройню. Число новорожденных сократилось по сравнению с 2023 годом (1169...

Самая аварийная развязка в Вильнюсе — пересечение пр. Savanorių, Laisvės и ул. Geležinio Vilko

Самая аварийная развязка в Вильнюсе — пересечение пр. Savanorių, Laisvės и ул. Geležinio Vilko

Самой аварийной кольцевой развязкой в Вильнюсе признали пересечение проспектов Savanorių, Laisvės и улицы Geležinio Vilko, где в 2024 году произошло 96 ДТП с ущербом 132 тыс. евро. Также опасными остаются развязки у бывшего Педагогического университета и...

Число жителей Вильнюсского района в 2024 году достигло 118 тысяч 460 человек

Число жителей Вильнюсского района в 2024 году достигло 118 тысяч 460 человек

В 2024 году численность официально зарегистрированных жителей Вильнюсского района выросла на 4,5 тысяч, достигнув 118 тысяч 460 человек. Наибольший прирост населения зафиксировали в Авиженяй (+3338 жителей, всего 18 082), затем следуют Реша (+361, всего...

Рядом с Национальным концертным залом появится памятник М. К. Чюрленису

Рядом с Национальным концертным залом появится памятник М. К. Чюрленису

Рядом со строящимся в Вильнюсе Национальным концертным залом появится памятник композитору и художнику Микалоюсу Константинасу Чюрленису. Такое решение утвердил Вильнюсский горсовет, а конкурс на проект памятника планируется объявить уже в этом году....

В день Святого Валентина, 14 февраля, Музей энергетики и техники отметит 22-летний юбилей

В день Святого Валентина, 14 февраля, Музей энергетики и техники отметит 22-летний юбилей

14 февраля Музей энергетики и техники отметит 22-летие, а также 122-летие первой Вильнюсской электростанции. Праздничная программа продлится целую неделю. 8 февраля пройдет шоу экспериментальной музыки с эффектами Tesla. 9 февраля состоится RayDay –...

На улице Verkių в столице откроется новое почтовое отделение

На улице Verkių в столице откроется новое почтовое отделение

С 27 февраля в Вильнюсе на улице Verkių, 31 начнет работать новый почтовый отдел Žirmūnų, обеспечивающий комфорт и удобство для клиентов и сотрудников Отделение будет оснащено четырьмя окнами обслуживания, доступом для людей с ограниченными возможностями,...

В неменчинской гимназии Gedimino 30 января начнется международный турнир по боксу

В неменчинской гимназии Gedimino 30 января начнется международный турнир по боксу

Турнир начнется 30 января в 12:00, вход бесплатный, также будет доступна прямая трансляция на странице Спортивной школы Неменчине в Facebook. Организаторы – Спортивная школа Неменчине и Спортивный центр Вильнюсского района – приглашают всех поддержать молодых...

25 января Вильнюс приглашает на празднование 702-го дня рождения города

25 января Вильнюс приглашает на празднование 702-го дня рождения города

В субботу, 25 января, в 12:00 Вильнюс приглашает всех жителей и гостей города на Ратушную площадь, где пройдет торжественная церемония поднятия флагов в честь 702-го дня рождения столицы. Эта традиция символизирует первое упоминание Вильнюса, датированное 25...

В Вильнюсе планируется c 1 июля повысить цены на проезд в общественном транспорте

В Вильнюсе планируется c 1 июля повысить цены на проезд в общественном транспорте

С июля в Вильнюсе планируется повышение цен на проезд в общественном транспорте, что, по словам представителей мэрии, необходимо для компенсации расходов на обновление транспортной инфраструктуры. Предполагается, что разовые билеты подорожают почти в два...

Рекомендуем

Национальный концертный зал — в категории «Лучший новый проект» на премии MIPIM

Национальный концертный зал — в категории «Лучший новый проект» на премии MIPIM

На горе Таурас в Вильнюсе строится Национальный концертный зал — амбициозный проект, который откроется в 2028 году. Несмотря на то, что строительство еще продолжается, зал уже получил международное признание, став одним из четырех номинантов в категории...

В Вильнюсском районе в прошлом году родилось 1034 малыша — 546 мальчиков и 488 девочек

В Вильнюсском районе в прошлом году родилось 1034 малыша — 546 мальчиков и 488 девочек

В 2024 году в Вильнюсском районном отделе регистрации актов гражданского состояния было зарегистрировано 1034 рождения (546 мальчиков и 488 девочек), включая 18 пар двойняшек и одну тройню. Число новорожденных сократилось по сравнению с 2023 годом (1169...

Самая аварийная развязка в Вильнюсе — пересечение пр. Savanorių, Laisvės и ул. Geležinio Vilko

Самая аварийная развязка в Вильнюсе — пересечение пр. Savanorių, Laisvės и ул. Geležinio Vilko

Самой аварийной кольцевой развязкой в Вильнюсе признали пересечение проспектов Savanorių, Laisvės и улицы Geležinio Vilko, где в 2024 году произошло 96 ДТП с ущербом 132 тыс. евро. Также опасными остаются развязки у бывшего Педагогического университета и...

Число жителей Вильнюсского района в 2024 году достигло 118 тысяч 460 человек

Число жителей Вильнюсского района в 2024 году достигло 118 тысяч 460 человек

В 2024 году численность официально зарегистрированных жителей Вильнюсского района выросла на 4,5 тысяч, достигнув 118 тысяч 460 человек. Наибольший прирост населения зафиксировали в Авиженяй (+3338 жителей, всего 18 082), затем следуют Реша (+361, всего...

Рядом с Национальным концертным залом появится памятник М. К. Чюрленису

Рядом с Национальным концертным залом появится памятник М. К. Чюрленису

Рядом со строящимся в Вильнюсе Национальным концертным залом появится памятник композитору и художнику Микалоюсу Константинасу Чюрленису. Такое решение утвердил Вильнюсский горсовет, а конкурс на проект памятника планируется объявить уже в этом году....

В день Святого Валентина, 14 февраля, Музей энергетики и техники отметит 22-летний юбилей

В день Святого Валентина, 14 февраля, Музей энергетики и техники отметит 22-летний юбилей

14 февраля Музей энергетики и техники отметит 22-летие, а также 122-летие первой Вильнюсской электростанции. Праздничная программа продлится целую неделю. 8 февраля пройдет шоу экспериментальной музыки с эффектами Tesla. 9 февраля состоится RayDay –...