Куда пропал Филип Агре, ученый который 30 лет назад предсказал враждебность искусственного интеллекта

Профессор Филип Агре (Philip Agre) еще в начале 90‑х предвидел слежку за людьми через интернет. Еще тогда он предсказал сбор данных о пользователях без их согласия и технологии манипуляции массами. Ученый предупреждал об опасности, но тогда его предсказания казались антиутопией. Сейчас, когда почти все это сбылось, про Агре вспомнили, но это уже ничего не изменит.

Не такое уж ужасное будущее — взгляд из 1990‑х

В 1994 году молодой профессор Калифорнийского университета Филип Агре опубликовал необычную статью. В ней он рассказал, как в будущем компьютерные системы будут собирать данные о людях. Информация будет предоставляться совершенно добровольно, без нарушения прав и свобод.

Так описывал Агре будущее, если интернет будет развиваться выбранным уже тогда путем.

Будущее уже наступило? Филип Агре был прав?

В итоге прошло 30 лет и все сбылось. Ведь сейчас данные успешно собираются соцсетями, программами и поисковиками. Их получают те, кто отлично знает, как извлечь из них пользу. Эти люди теперь управляют массами, причем в самых разных ситуациях. Например, они могут заставить нас купить новый телевизор, слушать определенную музыку, проголосовать на выборах за «нужного» кандидата.

Колумнист издания The Wash­ing­ton Post Рид Альберготти пишет об этом следующее:

Запоздалое прозрение и исчезновение Филипа Агре

Риду Альберготти в конце концов удалось встретиться с друзьями и коллегами профессора. Все они ошарашены тем что происходит и в первую очередь из-за точных предсказаний Филипа Агре. К сожалению, сам ученый не расскажет, как он пришел к таким выводам. А все потому, что профессор исчез в 2009 году, оставив дом и работу. Он никого не предупредил о своих планах, но полиция нашла его год спустя.

Агре обследовали врачи и признали полностью вменяемым. После возвращения ученый отказывается общаться с журналистами и даже бывшими коллегами. Более того, место его жительства сейчас неизвестно. Говорят, что его видели в Лос-Анджелесе, но это непроверенная информация.

Год получения Филипом Агре докторской степени совпал с годом создания WWW — Всемирной паутины. На дворе стоял 1989. Тогда никто не воспринимал всерьез какую-то сеть из подключенных друг к другу компьютеров. В то время будущее IT не могли предсказать даже венчурные эксперты Кремниевой долины. Но Агре уже знал, что будет дальше и открыто об этом говорил.

А туда ли мы идем?

Сегодня многим ясно, что интернет развивается в ошибочном направлении. А доктор Филип Агре пришел к этому еще в начале 90‑х. Сейчас ученого вспоминают часто. Например, о том, что искусственный интеллект (ИИ) будет плохо различать людей разных рас, Агре говорил задолго до появления систем распознавания. Тогда он считал, что это приведет к предвзятости, что мы сейчас и видим.

Джеффри Боукер, почетный профессор информатики Калифорнийского университета, обращает внимание на статью Агре 1997 года. Она называется «Уроки, извлеченные при попытке реформировать ИИ». В ней автор рассуждает о том, что разработчики нейросетей не прислушиваются к критике. Но именно критика должна стоять во главе разработки ИИ.

Рид Альберготти пишет:

Благодаря мощнейшим компьютерам, ИИ собирает огромные массивы информации о людях. И это вместо того, чтобы заниматься важными и полезными для человечества проблемами. Технологии не делают мир лучше, а сеют дискриминацию, распространяют дезинформацию и помогают диктатурам и монополиям.

«Ваше лицо — это не штрихкод»

Компании, лидирующие в сфере IT, не принимают и даже боятся критики. Например, в 2020 году руководство технологического гиганта Google уволило Тимнит Гебру — ведущую исследовательницу проблем искусственного интеллекта. Вина женщины была только в том, что она написала статью об этических проблемах ИИ.

Еще в 1994 году Филип Агре рассказал миру, что когда начнется глобальный сбор конфиденциальной информации, люди не будут этому сопротивляться. Это произойдет потому, что они просто не будут понимать, кто из сборщиков данных работает на благо, а кто задумал зло.

Профессор предвидел, что благодаря нововведениям манипулировать массами и отдельными людьми станет очень просто. А что может помешать делать это тем, кто знает предпочтения, слабости, настроение и планы каждого члена общества? Рид Альберготти пишет:

Спустя годы после выхода первых статей, Агре протестовал против массового внедрения систем распознавания лиц. «Ваше лицо — это не штрихкод,» — горько иронизировал он по поводу камер и сканеров, определяющих личность человека. Тогда технология распознавания лиц в общественных местах только рождалась. Доктор писал, что едва системы такого типа появятся в США, их возьмут на вооружение и в других странах. И это будут необязательно страны развитой демократии.

Он был прав, так как лидером в этой отрасли сейчас считается не США, а Китай. В стране, где, как известно, процветают гонения инакомыслящих, ИИ может отыскать в толпе любого и выдать его для ареста или казни. В США сейчас возможности таких систем ограничивают и по этому поводу непрерывно идут дебаты. Но в Китае вряд ли кто-то будет этим заниматься — там ИИ работает на не подлежащую критике Коммунистическую партию.

Слепой не увидит, глухой не услышит

30 лет назад профессор Филип Агре понимал, что его статьи — «глас вопиющего в пустыне». Его не понимали, не слышали и не хотели знать. Он пытался рассказать глухим и показать слепым и это его угнетало. Перед тем как уйти в тень, Агре начал писать книгу об Интернете. В ней он хотел анализировать его работу и влияние на людей.

Ученый ее не закончил. Он прекратил над ней работать по неизвестной причине. Когда коллеги Агре попытались систематизировать его работы и создать их коллекцию, автор попросил их этого не делать.

Смотрите также — 6 передовых технологий, меняющих нашу жизнь уже сегодня