Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта

0

Профессор Филип Агре (Philip Agre) еще в начале 90-х предвидел слежку за людьми через интернет. Еще тогда он предсказал сбор данных о пользователях без их согласия и технологии манипуляции массами. Ученый предупреждал об опасности, но тогда его предсказания казались антиутопией. Сейчас, когда почти все это сбылось, про Агре вспомнили, но это уже ничего не изменит.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №1 - BigPicture.ru

Не такое уж ужасное будущее — взгляд из 1990-х

В 1994 году молодой профессор Калифорнийского университета Филип Агре опубликовал необычную статью. В ней он рассказал, как в будущем компьютерные системы будут собирать данные о людях. Информация будет предоставляться совершенно добровольно, без нарушения прав и свобод.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №2 - BigPicture.ru

Филип Агре
«Этот процесс изменит и упростит человеческое поведение. По-настоящему тревожные события могут показаться нам не такими уж плохими из-за отсутствия явных ужасов, как те, что описал Оруэлл в своей в антиутопии».

Так описывал Агре будущее, если интернет будет развиваться выбранным уже тогда путем.

Будущее уже наступило? Филип Агре был прав?

В итоге прошло 30 лет и все сбылось. Ведь сейчас данные успешно собираются соцсетями, программами и поисковиками. Их получают те, кто отлично знает, как извлечь из них пользу. Эти люди теперь управляют массами, причем в самых разных ситуациях. Например, они могут заставить нас купить новый телевизор, слушать определенную музыку, проголосовать на выборах за «нужного» кандидата.

Колумнист издания The Washington Post Рид Альберготти пишет об этом следующее:

«Изумляет то, что Агре предвидел авторитарное злоупотребление технологией распознавания лиц. Он предсказал нашу неспособность противостоять хорошо продуманной дезинформации и то, что искусственный интеллект будет использован в преступных целях. Но тогда его никто не слушал».

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №3 - BigPicture.ru

Запоздалое прозрение и исчезновение Филипа Агре

Риду Альберготти в конце концов удалось встретиться с друзьями и коллегами профессора. Все они ошарашены тем что происходит и в первую очередь из-за точных предсказаний Филипа Агре. К сожалению, сам ученый не расскажет, как он пришел к таким выводам. А все потому, что профессор исчез в 2009 году, оставив дом и работу. Он никого не предупредил о своих планах, но полиция нашла его год спустя.

Агре обследовали врачи и признали полностью вменяемым. После возвращения ученый отказывается общаться с журналистами и даже бывшими коллегами. Более того, место его жительства сейчас неизвестно. Говорят, что его видели в Лос-Анджелесе, но это непроверенная информация.

Год получения Филипом Агре докторской степени совпал с годом создания WWW — Всемирной паутины. На дворе стоял 1989. Тогда никто не воспринимал всерьез какую-то сеть из подключенных друг к другу компьютеров. В то время будущее IT не могли предсказать даже венчурные эксперты Кремниевой долины. Но Агре уже знал, что будет дальше и открыто об этом говорил.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №4 - BigPicture.ru

А туда ли мы идем?

Сегодня многим ясно, что интернет развивается в ошибочном направлении. А доктор Филип Агре пришел к этому еще в начале 90-х. Сейчас ученого вспоминают часто. Например, о том, что искусственный интеллект (ИИ) будет плохо различать людей разных рас, Агре говорил задолго до появления систем распознавания. Тогда он считал, что это приведет к предвзятости, что мы сейчас и видим.

Джеффри Боукер, почетный профессор информатики Калифорнийского университета, обращает внимание на статью Агре 1997 года. Она называется «Уроки, извлеченные при попытке реформировать ИИ». В ней автор рассуждает о том, что разработчики нейросетей не прислушиваются к критике. Но именно критика должна стоять во главе разработки ИИ.

Рид Альберготти пишет:

«Искусственный интеллект сегодня внедряют даже в „низкотехнологичные“ отрасли. Ему позволяют влиять на выбор большинства людей, пользующихся интернетом. Он „указывает“, что смотреть на YouTube и что читать на Facebook, выносит приговоры осужденным преступникам. Он дает возможность компаниям автоматизировать и сокращать рабочие места, а также позволяет авторитарным режимам более эффективно контролировать граждан и предотвращать попытки установления демократии».

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №5 - BigPicture.ru

Благодаря мощнейшим компьютерам, ИИ собирает огромные массивы информации о людях. И это вместо того, чтобы заниматься важными и полезными для человечества проблемами. Технологии не делают мир лучше, а сеют дискриминацию, распространяют дезинформацию и помогают диктатурам и монополиям.

«Ваше лицо — это не штрихкод»

Компании, лидирующие в сфере IT, не принимают и даже боятся критики. Например, в 2020 году руководство технологического гиганта Google уволило Тимнит Гебру — ведущую исследовательницу проблем искусственного интеллекта. Вина женщины была только в том, что она написала статью об этических проблемах ИИ.

Еще в 1994 году Филип Агре рассказал миру, что когда начнется глобальный сбор конфиденциальной информации, люди не будут этому сопротивляться. Это произойдет потому, что они просто не будут понимать, кто из сборщиков данных работает на благо, а кто задумал зло.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №6 - BigPicture.ru

Профессор предвидел, что благодаря нововведениям манипулировать массами и отдельными людьми станет очень просто. А что может помешать делать это тем, кто знает предпочтения, слабости, настроение и планы каждого члена общества? Рид Альберготти пишет:

«Это произошло в масштабах, которые тогда мало кто мог вообразить. И данные, полученные в результате взаимодействия людей онлайн, используются сегодня для дальнейшего формирования их поведения и манипулирования оным».

Спустя годы после выхода первых статей, Агре протестовал против массового внедрения систем распознавания лиц. «Ваше лицо — это не штрихкод,» — горько иронизировал он по поводу камер и сканеров, определяющих личность человека. Тогда технология распознавания лиц в общественных местах только рождалась. Доктор писал, что едва системы такого типа появятся в США, их возьмут на вооружение и в других странах. И это будут необязательно страны развитой демократии.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №7 - BigPicture.ru

Он был прав, так как лидером в этой отрасли сейчас считается не США, а Китай. В стране, где, как известно, процветают гонения инакомыслящих, ИИ может отыскать в толпе любого и выдать его для ареста или казни. В США сейчас возможности таких систем ограничивают и по этому поводу непрерывно идут дебаты. Но в Китае вряд ли кто-то будет этим заниматься — там ИИ работает на не подлежащую критике Коммунистическую партию.

Слепой не увидит, глухой не услышит

30 лет назад профессор Филип Агре понимал, что его статьи — «глас вопиющего в пустыне». Его не понимали, не слышали и не хотели знать. Он пытался рассказать глухим и показать слепым и это его угнетало. Перед тем как уйти в тень, Агре начал писать книгу об Интернете. В ней он хотел анализировать его работу и влияние на людей.

Фотография: Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта №8 - BigPicture.ru

Ученый ее не закончил. Он прекратил над ней работать по неизвестной причине. Когда коллеги Агре попытались систематизировать его работы и создать их коллекцию, автор попросил их этого не делать.

Смотрите также — 6 передовых технологий, меняющих нашу жизнь уже сегодня

А вы знали, что у нас есть Telegram?

Подписывайтесь, если вы ценитель красивых фото и интересных историй!

Популярное

Самые горячие темы

Самое грязное племя на планете — как живут люди, которые никогда не моются

Самое грязное племя на планете — как живут люди, которые никогда не моются

Разоблачаем «Гардемаринов»: что в сериале правда, а что вымысел?

Разоблачаем «Гардемаринов»: что в сериале правда, а что вымысел?

Radisson Blu Iveria — роскошный отель, который был лагерем беженцев

Radisson Blu Iveria — роскошный отель, который был лагерем беженцев

Новые посты

Старший — не значит лучший, Ученые определили, что первые дети в семье не умнее остальных

Старший — не значит лучший, Ученые определили, что первые дети в семье не умнее остальных

Зачем израильские селекционеры вывели голую курицу

Зачем израильские селекционеры вывели голую курицу

История неподвижной циркачки Медузы ван Аллен по прозвищу «Маленькая мисс Солнышко»

История неподвижной циркачки Медузы ван Аллен по прозвищу «Маленькая мисс Солнышко»

Советы беременным женщинам прошлого — от просто нелепых до откровенно вредных

Советы беременным женщинам прошлого — от просто нелепых до откровенно вредных

10 самых живописных долин мира

10 самых живописных долин мира

Удивительная история крошечной малышки, которая выжила несмотря ни на что

Удивительная история крошечной малышки, которая выжила несмотря ни на что

Умиляющее зрелище — милые маленькие медвежата панды в корзинках

Умиляющее зрелище — милые маленькие медвежата панды в корзинках

10 рецептов вкуснейших завтраков из овсянки

10 рецептов вкуснейших завтраков из овсянки

Сюрреализм и стимпанк в творчестве арт-фотографа Владимира Федотко

Сюрреализм и стимпанк в творчестве арт-фотографа Владимира Федотко

Паскуалита — магазин свадебных платьев мертвой невесты

Паскуалита — магазин свадебных платьев мертвой невесты

Настоящий рост исторических личностей, который вас удивит

Настоящий рост исторических личностей, который вас удивит

Точно не угонят: оригинальный камуфляж, который защитит машину от воров

Точно не угонят: оригинальный камуфляж, который защитит машину от воров