Искусственный интеллект. Пределы возможного

Как работают компьютеры

Разработчики первых компьютеров верили, что цифровые технологии сделают мир намного лучше. Сегодня эти технологии стали частью нашей жизни. Но многие утопические мечты так и не сбылись. Компьютеры и интернет сделали нашу жизнь удобнее, но вместе с тем создали новые проблемы.

Мы настолько восторженно относимся к технологиям, что готовы внедрять их во все сферы нашей жизни. В итоге мы оказываемся у них в плену: многочисленные программы, сталкиваясь друг с другом, лишь усложняют нашу жизнь. И, самое главное, мы не можем точно предсказать все возможные последствия тотальной цифровизации. Ведь программа — это инструмент, а он может попасть в чьи угодно руки. Проблема в том, что технологии рано или поздно сталкиваются с человеческой природой, поэтому так важно определить границы их использования. Далеко не все аспекты человеческой деятельности нуждаются в технологиях.

Все детали, из которых состоит компьютер, называются аппаратным обеспечением, или «железом». Каждая деталь выполняет свою функцию и хранит свою часть информации. Если эта деталь повреждается, информация утрачивается или компьютер перестает работать. Эта негибкость отличает его от человеческого мозга. Мозг при повреждении одних нейронных связей способен восстановиться и создать новые. Компьютер так не сделает.

Железом управляет программное обеспечение, или софт. Программа задает компьютеру алгоритм действий. Большая задача делится на несколько мелких, которые выполняются последовательно, одна за другой. Ставятся условия и ограничения. Компьютер не способен действовать вне рамок программы. Чем сложнее программа - тем больше в ней возможностей для ошибок.

Многие люди представляют себе искусственный интеллект, как в фантастических фильмах — непонятным, всемогущим и самостоятельным. Это словно полноценная личность внутри компьютера. Такой интеллект называют сильным. Но сильного искусственного интеллекта не существует.

Вместо него существует так называемый слабый искусственный интеллект. Он собирает массив данных и делает на его основе прогнозы. Таким обладают нейронные сети и программы для игры в шахматы или го. Как и любая программа, искусственный интеллект состоит из строк двоичного кода. И он совершенно не похож на человеческий интеллект. Просто он может быстро обрабатывать огромный объем информации и делать нужные выводы.

Современные диалоговые боты и голосовые помощники также обладают искусственным интеллектом. Они дают реакцию на конкретный запрос. Для этого они анализируют базу данных ответов и выбирают наиболее подходящий, а какой является подходящим, указано в программе. Боты не понимают смысла того, что мы им говорим, они лишь выполняют программные команды. Реакции, не заданные программой, просто не предусмотрены. Даже у самообучающихся ботов обучение происходит исключительно в рамках алгоритмов.

Выражение «машинное обучение» является таким же фигуральным, как и «искусственный интеллект». На самом деле машина не имеет личности и возможности обучаться. Зато она может менять собственный алгоритм благодаря анализу массива данных. Если некое заданное значение меняется, то вместе с ним меняются и шаги программы. Машина не сможет выучить то, что не было предоставлено человеком. Не сможет она и изменить алгоритм так, как не было предусмотрено программистом.

Иначе говоря, мы лишь называем компьютеры умными. Но они не обладают разумом. На самом деле умны их разработчики. Именно они смогли с помощью кода заставить компьютеры выполнять различные действия. И в рамках существующих сейчас технологий преодоление компьютером программных ограничений просто невозможно. И невозможно создание сильного искусственного интеллекта.

Человеческий фактор

Нет смысла использовать технологии абсолютно во всех сферах. Иногда их использование только все усложняет и делает дороже. Замена школьных учебников на планшеты выглядит эффективным шагом. Но технически выполнить его и сложно, и дорого. Стоимость планшетов выше, их легче потерять, сломать или взломать. Возникает необходимость в мощном интернете, серверах и сложном учете каждого устройства.

Те, кто считает, будто компьютеры объективнее, а оттого лучше людей, забывают одну вещь. Компьютеры сами созданы людьми и работают в человеческой среде. Данные, которые мы загружаем в компьютер, уже сами по себе могут быть необъективными, потому что были получены от людей. Мы загружаем в искусственный интеллект наши стереотипы и предубеждения. И не стоит ждать на выходе чего-то другого.

Порой разработчики сами не представляют весь спектр проблем, которые способно принести их изобретение. В 2016 году был создан самообучающийся чат-бот Тай. Он пополнял свой запас диалоговых реакций благодаря тем людям, которые с ним общались. За короткое время его обучили жестоким и расистским высказываниям.

Когда в массовой продаже появились летающие дроны, многие стали фантазировать о том, в какой сфере они могут пригодиться. И при этом никто не догадался разработать правила и законы, регулирующие их применение. Возникло множество проблем относительно вмешательства в частную жизнь и уничтожения чужой собственности. Дроны начали использовать в качестве шпионов и оружия. К тому же при большом количестве дронов необходимо как-то рассчитывать маршруты их полетов.

Машинное обучение и доступ к массиву данных тоже открывают возможности для махинаций. Например, в онлайн-магазинах цена на один и тот же товар может быть разной для разных покупателей. Программа через IP выясняет место проживания покупателя и прогнозирует примерный уровень его доходов. Возникает ценовая дискриминация.

Также известны случаи, когда машина обучалась на однобоких примерах. Программа распознавания лиц брала в расчет лишь белый цвет кожи. Афроамериканцев она просто не видела. Другая программа посчитала представителей национальных меньшинств более вероятными преступниками.

Эти случаи показывают уровень наивности и слепого оптимизма разработчиков. Они готовы видеть в технологиях лишь позитивные моменты и практически не замечают возможных опасностей. Человеческая природа такова, что любому изобретению найдут и полезное, и вредное применение.

Наше беззаботное отношение к технологиям сложилось исторически. Изобретателями часто становились люди гениальные, но немного оторванные от общества. Им создавали все условия и позволяли переступать границы допустимого. Работал старый стереотип о том, что гениям все можно. Одаренные математики и техники были одержимы только своими идеями и не думали о возможных опасностях. Но жить с изобретениями, ими созданными, придется всем нам.

Технологии нельзя доверять изобретателю-одиночке. Он слишком пристрастно относится к собственному детищу и не хочет даже слышать про его отрицательные стороны. Он готов внедрить технологии куда угодно, даже туда, где в них нет надобности.

Разработки должны вестись большими и разнообразными группами. Состав групп нужно подбирать так, чтобы можно было проанализировать новую технологию со всех сторон. Чтобы учесть интересы разных слоев населения, понять, на какие сферы повлияет разработка. И, по возможности, предупредить негативные влияния.

Эта машина сама не поедет

Искусственный интеллект помогает нам в рутинных делах. Он статистически обрабатывает массивы данных и предоставляет нам более-менее внятную информацию. Часто она требует дополнительной интерпретации на основе человеческого опыта, но мы с этим справляемся. Например, в корявом наборе слов, сделанном автопереводчиком, мы умеем находить нужный нам смысл.

С несовершенством искусственного интеллекта можно мириться в безопасных сферах деятельности. Но в тех, которые напрямую связаны с человеческой жизнью и здоровьем, полностью доверяться компьютеру не стоит. Даже небольшая ошибка может привести к многочисленным жертвам.

Транспорт является одной из таких сфер. Разработка беспилотных автомобилей сталкивается с рядом проблем. Их причиной становятся границы возможностей искусственного интеллекта.

Существует классификация автономных машин. Согласно ей, уровень 0 соответствует полностью зависящему от водителя автомобилю. А уровень 5 — полностью автономному. Такой уровень пока что недостижим и, возможно, не будет достигнут никогда.

Разработка автономных машин добралась лишь до третьего уровня. В таких машинах установлены автоматизированные помощники. Они могут самостоятельно выполнять некоторые операции, например, парковку. Но это довольно простые операции. При их выполнении достаточно учитывать несколько стабильных факторов: расстояние до стоящих препятствий и между ними. И человек всегда должен быть готов взять управление на себя.

Движение по дороге требует регулярного анализа множества факторов. Некоторые из них меняются очень быстро. Машину нужно научить отличать объекты, которые могут встретиться на дороге. При этом некоторые из них выглядят по-разному с разных ракурсов. Одни будут двигаться, а другие стоять. Одна только программа отличия человека от столба будет очень сложной. А таких программ должно быть множество.

Поэтому разработка беспилотных автомобилей сегодня ведется по другому принципу. Карта местности и неподвижные объекты изначально загружаются в память машины. Движущиеся объекты представлены в виде трехмерных моделей. Их маршрут анализируется, и на основе массива данных выводится вероятность пересечения с маршрутом машины. Решение притормозить или остановиться принимается по результатам анализа. Так поступает искусственный интеллект в видеоиграх.

Но и такой подход небезопасно использовать в большом городе. По улицам ходит очень много людей. Их поведение сложно предсказать. Статистическая обработка данных тут не поможет. Искусственному интеллекту придется учитывать сразу огромное количество ужасно изменчивых траекторий.

Есть и другие проблемы. В плохую погоду датчики беспилотников не работают: их сбивают с толку осадки или пыль. Небольшие искажения на дорожных знаках не позволяют считать их правильно. Некоторые водители незаконно пользуются глушителями GPS. При всех этих факторах вероятность ошибки возрастает. А ее ценой могут стать жизнь и здоровье многих людей.

Также важно учитывать этический фактор. Что сделает машина в экстремальной ситуации, оказавшись перед толпой людей? Если она не успевает затормозить, ей необходимо свернуть. А если сворачивать приходится в препятствие? Что выберет машина: убить людей на улице или своих пассажиров?

Увы, на эти вопросы нет внятного ответа. Разработчики считают, что превыше всего безопасность пассажиров. Но не всякий пассажир согласится с таким подходом. А ведь принимать решение придется не ему: за него это сделали разработчики, руководствуясь собственными принципами.

Разработка беспилотного автомобиля пятого уровня — не самое перспективное дело. Полезнее было бы на основе искусственного интеллекта сделать полноценного помощника водителя. Улучшить уже имеющиеся программы, позволяющие беспроблемно парковаться или следить за дорожной разметкой. Машины должны стать помощниками людей, а не заменить их.

Популярное — не значит хорошее

Анализ массива данных проводится на основе формальных критериев. Для результата компьютеру нужны исчисляемые величины. Поэтому он будет реагировать только на количественные измерения. Но качество далеко не всегда зависит от количества, и порой его просто невозможно измерить.

Например, как узнать о том, какое фото лучше, а какое хуже? Компьютер может исследовать самые популярные фотографии в интернете. Но его ответ больше скажет не про их качество, а именно про популярность. То, что популярно, не всегда бывает хорошим. Популярность зависит не столько от качества, сколько от других, порой чисто случайных факторов.

Компьютерные технологии дают возможность манипулировать популярностью. Наверное, каждому известны случаи накрутки голосов в онлайн-голосовании. Устройство программы голосования понятно лишь программистам. Большинство же видит только результаты и верит им. По той же причине многие люди верят фейковым новостям. Они не знают, как создается информация в интернете. Они считают ее схожей с информацией в газетах и журналах.

Изначально алгоритмы поисковиков были ориентированы только на популярность страниц в интернете. Когда сама сеть еще была маленькой, это работало. С развитием интернета все чаще популярность стали накручивать искусственно. Сегодня поиск в Google работает на основе множества алгоритмов, проверяющих популярность и активность сайтов. На первой странице выдачи располагаются обычно самые популярные. А кроме них еще и реклама. При этом хорошие, но менее популярные сайты остаются на следующих страницах, куда мало кто заглядывает.

Наивна идея о том, что всеобщая компьютеризация устранит социальные проблемы. Порой выходит наоборот. В интернете возникают особые анонимные территории, так называемый даркнет. В даркнете легко можно купить оружие и наркотики. Создатели интернета романтизировали анонимность — она была для них возможностью избежать тотального контроля со стороны государства. Но та же самая анонимность теперь позволяет наркоторговцам уходить от ответственности.

Кроме того, чем сложнее технология, тем больше вероятность ошибки в системе. Практически невозможно проверить все совместимости в большой и сложной программе. Ошибки приводят к сбою программы. Да и сама техника недолговечна. Она быстро устаревает и ломается. Хорошо, если это грозит лишь потерей драгоценного времени. Плохо, когда от этих случайных сбоев зависит жизнь.

Машины могут быстро и четко выполнять рутинную работу и вычисления. Но они не могут справиться с непредвиденной ситуацией. Все, что выходит за рамки программы, для них становится непосильным. Человек же работает медленно и не всегда точно. Зато он обладает разумом и жизненным опытом. Это помогает ему находить новые и нестандартные решения. Человек способен справиться с непредсказуемой ситуацией.

Поэтому использование только человеческой или только машинной силы малоэффективно. Сотрудничество человека и компьютера — вот по-настоящему эффективная стратегия. Компьютеру можно доверить простую работу. А человек должен его контролировать и интерпретировать результаты. А также брать работу на себя, когда машина с ней не справляется. Это не похоже на техноутопию. Зато это реальный способ сделать нашу жизнь лучше.