Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта

0

Профессор Филип Агре (Philip Agre) еще в начале 90-х предвидел слежку за людьми через интернет. Еще тогда он предсказал сбор данных о пользователях без их согласия и технологии манипуляции массами. Ученый предупреждал об опасности, но тогда его предсказания казались антиутопией. Сейчас, когда почти все это сбылось, про Агре вспомнили, но это уже ничего не изменит.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №1 - BigPicture.ru

Не такое уж ужасное будущее — взгляд из 1990-х

В 1994 году молодой профессор Калифорнийского университета Филип Агре опубликовал необычную статью. В ней он рассказал, как в будущем компьютерные системы будут собирать данные о людях. Информация будет предоставляться совершенно добровольно, без нарушения прав и свобод.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №2 - BigPicture.ru

Филип Агре
«Этот процесс изменит и упростит человеческое поведение. По-настоящему тревожные события могут показаться нам не такими уж плохими из-за отсутствия явных ужасов, как те, что описал Оруэлл в своей в антиутопии».

Так описывал Агре будущее, если интернет будет развиваться выбранным уже тогда путем.

Будущее уже наступило? Филип Агре был прав?

В итоге прошло 30 лет и все сбылось. Ведь сейчас данные успешно собираются соцсетями, программами и поисковиками. Их получают те, кто отлично знает, как извлечь из них пользу. Эти люди теперь управляют массами, причем в самых разных ситуациях. Например, они могут заставить нас купить новый телевизор, слушать определенную музыку, проголосовать на выборах за «нужного» кандидата.

Колумнист издания The Washington Post Рид Альберготти пишет об этом следующее:

«Изумляет то, что Агре предвидел авторитарное злоупотребление технологией распознавания лиц. Он предсказал нашу неспособность противостоять хорошо продуманной дезинформации и то, что искусственный интеллект будет использован в преступных целях. Но тогда его никто не слушал».

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №3 - BigPicture.ru

Запоздалое прозрение и исчезновение Филипа Агре

Риду Альберготти в конце концов удалось встретиться с друзьями и коллегами профессора. Все они ошарашены тем что происходит и в первую очередь из-за точных предсказаний Филипа Агре. К сожалению, сам ученый не расскажет, как он пришел к таким выводам. А все потому, что профессор исчез в 2009 году, оставив дом и работу. Он никого не предупредил о своих планах, но полиция нашла его год спустя.

Агре обследовали врачи и признали полностью вменяемым. После возвращения ученый отказывается общаться с журналистами и даже бывшими коллегами. Более того, место его жительства сейчас неизвестно. Говорят, что его видели в Лос-Анджелесе, но это непроверенная информация.

Год получения Филипом Агре докторской степени совпал с годом создания WWW — Всемирной паутины. На дворе стоял 1989. Тогда никто не воспринимал всерьез какую-то сеть из подключенных друг к другу компьютеров. В то время будущее IT не могли предсказать даже венчурные эксперты Кремниевой долины. Но Агре уже знал, что будет дальше и открыто об этом говорил.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №4 - BigPicture.ru

А туда ли мы идем?

Сегодня многим ясно, что интернет развивается в ошибочном направлении. А доктор Филип Агре пришел к этому еще в начале 90-х. Сейчас ученого вспоминают часто. Например, о том, что искусственный интеллект (ИИ) будет плохо различать людей разных рас, Агре говорил задолго до появления систем распознавания. Тогда он считал, что это приведет к предвзятости, что мы сейчас и видим.

Джеффри Боукер, почетный профессор информатики Калифорнийского университета, обращает внимание на статью Агре 1997 года. Она называется «Уроки, извлеченные при попытке реформировать ИИ». В ней автор рассуждает о том, что разработчики нейросетей не прислушиваются к критике. Но именно критика должна стоять во главе разработки ИИ.

Рид Альберготти пишет:

«Искусственный интеллект сегодня внедряют даже в „низкотехнологичные“ отрасли. Ему позволяют влиять на выбор большинства людей, пользующихся интернетом. Он „указывает“, что смотреть на YouTube и что читать на Facebook, выносит приговоры осужденным преступникам. Он дает возможность компаниям автоматизировать и сокращать рабочие места, а также позволяет авторитарным режимам более эффективно контролировать граждан и предотвращать попытки установления демократии».

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №5 - BigPicture.ru

Благодаря мощнейшим компьютерам, ИИ собирает огромные массивы информации о людях. И это вместо того, чтобы заниматься важными и полезными для человечества проблемами. Технологии не делают мир лучше, а сеют дискриминацию, распространяют дезинформацию и помогают диктатурам и монополиям.

«Ваше лицо — это не штрихкод»

Компании, лидирующие в сфере IT, не принимают и даже боятся критики. Например, в 2020 году руководство технологического гиганта Google уволило Тимнит Гебру — ведущую исследовательницу проблем искусственного интеллекта. Вина женщины была только в том, что она написала статью об этических проблемах ИИ.

Еще в 1994 году Филип Агре рассказал миру, что когда начнется глобальный сбор конфиденциальной информации, люди не будут этому сопротивляться. Это произойдет потому, что они просто не будут понимать, кто из сборщиков данных работает на благо, а кто задумал зло.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №6 - BigPicture.ru

Профессор предвидел, что благодаря нововведениям манипулировать массами и отдельными людьми станет очень просто. А что может помешать делать это тем, кто знает предпочтения, слабости, настроение и планы каждого члена общества? Рид Альберготти пишет:

«Это произошло в масштабах, которые тогда мало кто мог вообразить. И данные, полученные в результате взаимодействия людей онлайн, используются сегодня для дальнейшего формирования их поведения и манипулирования оным».

Спустя годы после выхода первых статей, Агре протестовал против массового внедрения систем распознавания лиц. «Ваше лицо — это не штрихкод,» — горько иронизировал он по поводу камер и сканеров, определяющих личность человека. Тогда технология распознавания лиц в общественных местах только рождалась. Доктор писал, что едва системы такого типа появятся в США, их возьмут на вооружение и в других странах. И это будут необязательно страны развитой демократии.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №7 - BigPicture.ru

Он был прав, так как лидером в этой отрасли сейчас считается не США, а Китай. В стране, где, как известно, процветают гонения инакомыслящих, ИИ может отыскать в толпе любого и выдать его для ареста или казни. В США сейчас возможности таких систем ограничивают и по этому поводу непрерывно идут дебаты. Но в Китае вряд ли кто-то будет этим заниматься — там ИИ работает на не подлежащую критике Коммунистическую партию.

Слепой не увидит, глухой не услышит

30 лет назад профессор Филип Агре понимал, что его статьи — «глас вопиющего в пустыне». Его не понимали, не слышали и не хотели знать. Он пытался рассказать глухим и показать слепым и это его угнетало. Перед тем как уйти в тень, Агре начал писать книгу об Интернете. В ней он хотел анализировать его работу и влияние на людей.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №8 - BigPicture.ru

Ученый ее не закончил. Он прекратил над ней работать по неизвестной причине. Когда коллеги Агре попытались систематизировать его работы и создать их коллекцию, автор попросил их этого не делать.

Смотрите также — 6 передовых технологий, меняющих нашу жизнь уже сегодня

А вы знали, что у нас есть Telegram?

Подписывайтесь, если вы ценитель красивых фото и интересных историй!

Популярное

Самые горячие темы

«Девочка без души»: история Луизы Джой Браун, рождение которой стало вызовом обществу

«Девочка без души»: история Луизы Джой Браун, рождение которой стало вызовом обществу

Что взрывали и хлопали мальчишки в СССР, когда не было петард

Что взрывали и хлопали мальчишки в СССР, когда не было петард

Как относились к девственности в разные эпохи в разных уголках мира

Как относились к девственности в разные эпохи в разных уголках мира

Новые посты

Поющая пещера Фингала

Поющая пещера Фингала

8 довольно безобидных вещей, которые на самом деле вредны для вас

8 довольно безобидных вещей, которые на самом деле вредны для вас

Фотоистория о том, как маленькая Норма Джин из Лос-Анджелеса превратилась в самую соблазнительную женщину XX века

Фотоистория о том, как маленькая Норма Джин из Лос-Анджелеса превратилась в самую соблазнительную женщину XX века

Райский сад перфекциониста: геометрия растений

Райский сад перфекциониста: геометрия растений

Взгляд вместо слов: 20+ питомцев, которые всей душой любят своих хозяев

Взгляд вместо слов: 20+ питомцев, которые всей душой любят своих хозяев

20 фото очаровательных аляскинских маламутов, которые поднимут вам настроение

20 фото очаровательных аляскинских маламутов, которые поднимут вам настроение

Страшный суд на земле — о том, как папа римский покарал труп

Страшный суд на земле — о том, как папа римский покарал труп

Еврейские правила бизнеса. Вот как они зарабатывают большие деньги!

Еврейские правила бизнеса. Вот как они зарабатывают большие деньги!

«Вызывайте экзорциста!»: 17 фото невероятно гибких девушек, которые немного пугают

«Вызывайте экзорциста!»: 17 фото невероятно гибких девушек, которые немного пугают

«Он чертов гений!» — Америка середины XX века в объективе культового Брюса Дэвидсона

«Он чертов гений!» — Америка середины XX века в объективе культового Брюса Дэвидсона

Мел Фишер: почему его называли королем кладоискателей

Мел Фишер: почему его называли королем кладоискателей

И стар и млад, трогательный фотопроект о связи старшего поколения с внуками

И стар и млад, трогательный фотопроект о связи старшего поколения с внуками