Вильнюс 9 News 9 Новости 9 Главное 9 Цифровое чистилище (XV): Тёмная сторона новой информационной революции

Цифровое чистилище (XV): Тёмная сторона новой информационной революции

2024-02-19 | Главное, Рекомендуем

Продолжаем серию материалов о преступлениях в цифровой среде. Ранее мы уже обсуждали, как искусственный интеллект вводит в заблуждение пользователей соцсетей и клиентов интернет-магазинов. В этот раз взглянем глубже на угрозы со стороны синтетического разума и от практики, которая сопровождала все прошлые 14 серий нашего цикла, разберёмся в теории. Разработчики, эксперты и политики бьют тревогу – новейшие нейросети позволяют даже второсортным злоумышленникам совершать губительные кибератаки, сеять информационную неразбериху. Евросоюз уже взял на себя миссию первым в мире начать регулировать эту одновременно многообещающую и опасную технологию.

На пороге революционных перемен

В последнее время всё чаще можно услышать размышления о том, что человечество – на пороге революции искусственного интеллекта (ИИ). И действительно, нейронные сети уже сейчас способны облегчить повседневность: писать компьютерные программы, качественно переводить текст, упорядочивать огромные объёмы информации. Перемены наступают и в культурной жизни – машина научилась писать стихи, создавать картины, сочинять музыку и даже ваять скульптуры. А прошлой весной в Литве робот под присмотром хирурга впервые успешно удалил опухоль. Вот только самих разработчиков ИИ тревожит другая, тёмная сторона грядущих перемен.

ТАКЖЕ ЧИТАЙТЕ: 

«Меня особенно беспокоит то, что эти модели могут использоваться для масштабной дезинформации. К тому же, теперь они все лучше пишут компьютерный код и могут применяться в агрессивных кибератаках», – так Сэм Альтман, создатель виртуального помощника ChatGPT, отзывается о технологии, на которой построено его нашумевшее творение.

Не так давно сотни тяжеловесов технологического сообщества, включая Илона Маска, подписали открытое письмо, полное тревоги. В нём – призыв заморозить разработку сверхмощных систем ИИ, так как они представляют «серьёзный риск для общества и человечества».

Благими намерениями путь в антиутопию мощён

О том, что с внедрением ИИ во все сферы жизни приходят не только футуристические блага, но и уйма угроз, предупреждает и Всемирный экономический форум (ВЭФ). В январе эта влиятельная организация опубликовала отчёт, где главным непосредственным риском для мировой экономики названа дезинформация, усиленная передовыми нейросетями.

ТАКЖЕ ЧИТАЙТЕ: 

«С помощью ИИ можно создавать дипфейки и воздействовать на большие группы людей, а это способствует быстрому распространению дезинформации», – подчёркивает шведский эксперт по управлению рисками Каролина Клинт, чья компания помогла составить отчёт для ВЭФ.

По её словам, «не нужно быть гением, чтобы стать злоумышленником» и с помощью нейросетей создавать опасные вирусы, проводить автоматизированные кибератаки. К тому же, возникает риск раскола общества, поскольку людям всё сложнее найти правдивые данные. Демократические процессы и вовсе могут быть подорваны, поскольку киберпреступники через фальшивую информацию способны поставить под сомнение легитимность избранных властей.

Словно в подтверждение подобных опасений «крёстный отец» нейросетей Джеффри Хинтон в прошлом году уволился из Google, публично сожалея о своей работе, которая привела к созданию программ, подобным ChatGPT. Они, по мнению учёного, представляют собой экзистенциальную угрозу для человечества.

ТАКЖЕ ЧИТАЙТЕ: 

Подмена реальности

А на кону стоит действительно многое. Ведь генеративный ИИ умеет имитировать абсолютно всё, что встречается в интернете – от текста и изображений до аудиозаписей и видеороликов. Это означает, что злоумышленникам подготовлена очень благодатная почва для неэтичных или даже преступных действий в информационных просторах.  И если ещё несколько лет назад попытки ИИ воспроизвести реальность зачастую казались примитивными – то сегодня результат работы искусственного разума порой невероятно сложно отличить от подлинного контента.

Во-первых, ИИ способен с лёгкостью написать практически любой текст – комментарии, новости, статьи, при этом имитируя слог человека. Злоумышленники эту технологию используют, к примеру, для генерирования фальшивых новостей.

С той же легкостью ИИ создаёт и изображения, фотографии – например, реальных или несуществующих людей. Многие такие творения крайне реалистичны, так что мошенники и другие злоумышленники используют их для создания фальшивых профилей в соцсетях.

Видеоролики, сгенерированные нейросетями, также набирают популярность. Особо зловещее применение находит технология дипфейков. С помощью её недоброжелатели создают подобия знаменитостей, чтобы уговаривать людей слать им деньги. Бывают и случаи, когда злоумышленники сеют разногласие в обществе, вкладывая в уста политиков компрометирующие слова, которых они на самом деле не произносили. Подобные уловки используются и при фальсификации аудиозаписей – например, разговоров «мировых лидеров» по телефону.

ТАКЖЕ ЧИТАЙТЕ:

Комментарии экспертов

  • Томас Крилавичюс, декан Факультета информатики Университета Витаутаса Великого: «Меня больше всего беспокоит то, что из-за ИИ объём получаемой нами информации лишь увеличится. А тогда будет сложнее отличить, какая информация реальна, а какая нет».
  • Ричардас Савукинас, блогер: «Facebook, к примеру, блокирует пользователей, которые настроены проукраински или высказываются о каких-либо проблемах. При этом платформа никак не реагирует на ложные утверждения, либо даже их продвигает. А всё потому, что в какой-то момент искусственный интеллект решил, что одно хорошо, а другое – плохо».

Гонка с прогрессом

Создать предохранители уже спешат правительства по всему миру. В прошлом году в Великобритании был учреждён первый в мире институт безопасности ИИ. Ему поручено выявлять различные угрозы – от распространения дезинформации до возникновения экзистенциальных рисков. Лидеры «Большой семёрки», в свою очередь, уже согласовали принципы этичной разработки нейросетей. Между тем страны ЕС после напряжённых переговоров в этом году одобрили свод правил по ограничению применения ИИ. Принятый правовой акт станет первой в мире попыткой регулировать эти мощные технологии.

ТАКЖЕ ЧИТАЙТЕ:

Фото: Canva.com.

При поддержке:

Последние новости из Вильнюса

Вильнюс в огне, взорванная телевышка и монстр на улицах: в столицу Литвы едет Дункан Маклауд

Вильнюс в огне, взорванная телевышка и монстр на улицах: в столицу Литвы едет Дункан Маклауд

Спустя много лет Вильнюс вновь посетит звезда культового сериала 90-х годов «Горец», британский актёр Эдриан Пол, который сыграл бессмертного горца Дункана Маклауда. В конце мая он примет участие в „Comic Con Baltics 2024 powered by Samsung“. 400-летняя история...

Хроники строительства нацстадиона: придётся ещё подождать…

Хроники строительства нацстадиона: придётся ещё подождать…

Служба госзакупок представила неблагоприятные выводы по строительству Национального стадиона. По их мнению в проекте до конца не обоснована цена строительства, поэтому столичные власти и правительство рискуют переплатить за проект. Мэр Вильнюса Валдас Бенкунскас...

Что случилось с рекой Нерис и почему она вновь затопила набережную?

Что случилось с рекой Нерис и почему она вновь затопила набережную?

Некоторые заметили и удивились, как это так получилось, что уровень воды в реке Нерис внезапно поднялся и даже затопил набережную в центральной части города. Ведь было сухо, снег давно растаял, а тут – прямо у Белого моста урны да скамейки стоят в воде… По данным...

На месяц ограничивается движение по улице Укмергес

На месяц ограничивается движение по улице Укмергес

Вильнюсское городское самоуправление сообщает, что с 10 по 30 апреля, по будням с 9 утра до 3 часов дня, на улице Укмергес в направлении улицы Озо будут проводиться работы по строительству инженерных сетей. Во время работ первая полоса движения будет временно закрыта,...

Пришлось дождаться +26: в Вильнюсе завершили отопительный сезон

Пришлось дождаться +26: в Вильнюсе завершили отопительный сезон

Сегодня в столице, при температуре +26 за окном, заканчивается отопительный сезон 2023-2024 годов. Теплоснабжение жилых многоквартирных домов и административных зданий в Вильнюсе будет отключено 9 апреля. 10 апреля отопление будет отключено в общеобразовательных,...

Передвижные вильнюсские дворики появятся в районах Шешкине, Шнипишкес и Науйяместис

Передвижные вильнюсские дворики появятся в районах Шешкине, Шнипишкес и Науйяместис

Передвижные дворики, которые несколько лет назад появились в столице на ул. Naugarduko, обновят и перевезут в другие места города. Два из них установят в районе Шешкине на территории общественного и торгового центра, два – на ул. Lvivo и два – на ул. Panerių, около...

В Вильнюс прибывают первые военнослужащие немецкой бригады

В Вильнюс прибывают первые военнослужащие немецкой бригады

В понедельник в Вильнюс прибывают первые военнослужащие немецкой бригады, направленные в Литву. Согласно сообщению Минобороны, прибывают командующий Сухопутными войсками немецкой армии генерал-лейтенант Альфонс Майс и основная группа управления штаба 45-й...

Начались работы по реконструкции Неменчинского шоссе

Начались работы по реконструкции Неменчинского шоссе

В планах по реконструкции Неменчинского шоссе – приведение в порядок участка протяженностью почти 6 км от ул. Kairėnų до городской черты Вильнюса. В ходе реконструкции Неменчинского шоссе проезжая часть будет расширена с двух до четырех полос, что поможет сократить...

Вильнюс перераспределяется: жители бегут из одних районов и заселяют другие

Вильнюс перераспределяется: жители бегут из одних районов и заселяют другие

В последнее десятилетие в Вильнюсе наблюдается активная миграция жителей из спальных районов советской эпохи, свидетельствуют данные о миграции жителей между районами города, проанализированные Агентством по развитию строительного сектора (SSVA). В период с 2011 по...

В Вильнюс готовят отправить новые троллейбусы: только посмотрите, как они выглядят

В Вильнюс готовят отправить новые троллейбусы: только посмотрите, как они выглядят

Новая эра троллейбусов в столичном общественном транспорте начнется уже этим летом, сообщает предприятие „Vilniaus viešasis transportas“. Согласно подписанному ещё в 2023 году договору, Škoda Group доставит в Вильнюс первые 20 троллейбусов уже в августе. Остальные 71...

Новости всей Литвы

Рекомендуем

Вильнюс в огне, взорванная телевышка и монстр на улицах: в столицу Литвы едет Дункан Маклауд

Вильнюс в огне, взорванная телевышка и монстр на улицах: в столицу Литвы едет Дункан Маклауд

Спустя много лет Вильнюс вновь посетит звезда культового сериала 90-х годов «Горец», британский актёр Эдриан Пол, который сыграл бессмертного горца Дункана Маклауда. В конце мая он примет участие в „Comic Con Baltics 2024 powered by Samsung“. 400-летняя история...

Хроники строительства нацстадиона: придётся ещё подождать…

Хроники строительства нацстадиона: придётся ещё подождать…

Служба госзакупок представила неблагоприятные выводы по строительству Национального стадиона. По их мнению в проекте до конца не обоснована цена строительства, поэтому столичные власти и правительство рискуют переплатить за проект. Мэр Вильнюса Валдас Бенкунскас...

Что случилось с рекой Нерис и почему она вновь затопила набережную?

Что случилось с рекой Нерис и почему она вновь затопила набережную?

Некоторые заметили и удивились, как это так получилось, что уровень воды в реке Нерис внезапно поднялся и даже затопил набережную в центральной части города. Ведь было сухо, снег давно растаял, а тут – прямо у Белого моста урны да скамейки стоят в воде… По данным...

На месяц ограничивается движение по улице Укмергес

На месяц ограничивается движение по улице Укмергес

Вильнюсское городское самоуправление сообщает, что с 10 по 30 апреля, по будням с 9 утра до 3 часов дня, на улице Укмергес в направлении улицы Озо будут проводиться работы по строительству инженерных сетей. Во время работ первая полоса движения будет временно закрыта,...

Пришлось дождаться +26: в Вильнюсе завершили отопительный сезон

Пришлось дождаться +26: в Вильнюсе завершили отопительный сезон

Сегодня в столице, при температуре +26 за окном, заканчивается отопительный сезон 2023-2024 годов. Теплоснабжение жилых многоквартирных домов и административных зданий в Вильнюсе будет отключено 9 апреля. 10 апреля отопление будет отключено в общеобразовательных,...

Передвижные вильнюсские дворики появятся в районах Шешкине, Шнипишкес и Науйяместис

Передвижные вильнюсские дворики появятся в районах Шешкине, Шнипишкес и Науйяместис

Передвижные дворики, которые несколько лет назад появились в столице на ул. Naugarduko, обновят и перевезут в другие места города. Два из них установят в районе Шешкине на территории общественного и торгового центра, два – на ул. Lvivo и два – на ул. Panerių, около...