Этика искусственного интеллекта: утопия или жизненная необходимость?
На фоне штормящей информационной повестки не особо заметным прошло одно из действительно важных событий. «Крестный отец» искусственного интеллекта Джеффри Хинтон, который развивал технологию математических моделей данных с 1970-х годов, отрекся от своего детища и громко заявил о его глобальной опасности для человечества. И в начале этого года уволился из Google.
Его опасения поддержали более тысячи руководителей крупнейших цифровых компаний и ученых. Они высказались за введение моратория на разработку продуктов на основе ИИ — для того, чтобы оценить потенциальные негативные факторы и сформировать регуляторную практику для столь мощного инструмента. Эксперты видят огромные риски в конкуренции разработчиков, которые усиленно приближают время, когда компьютер станет умнее человека (тест Тьюринга он уже прошел). По оценке Хинтона, это произойдет гораздо раньше тех 30 лет, которые он прежде отводил на эволюцию искусственному интеллекту.
ИИ умнеет не по дням, а по часам. Скорость его эволюции зачаровывает, и среди золотого миллиарда трудно уже найти человека, кто так или иначе не поиграл с ним. Те, кто привык рисковать, пробуют применять его для бизнеса, те, кто менее решительный, — с энтузиазмом играют с чат-ботами. У ученых уже есть стандартная фраза «скормить сетке» — загрузить мегабайты любых хаотических данных, которые ИИ проанализирует за ночь и выстроит какие-то взаимосвязи.
Но уже сейчас эти технологии проникли практически во все сферы деятельности человека. Они помогают искать перспективные лекарства, классифицируют множество рентген-снимков, управляют беспилотной техникой, в режиме реального времени проводят скоринг банковских клиентов и персонифицируют предложения в онлайн-супермаркете.
Бизнесу это на руку. Согласно исследованию консалтинговой компании NewVantage Partners 2022 года, более 90% крупнейших компаний, внедряющих технологии ИИ и инструменты обработки больших данных, заявили об измеримой отдаче от высокотехнологичных инвестиций. Это свидетельствует о том, что коммерциализация технологии идет полным ходом, по экспоненте. Инновационная гонка превращается в борьбу за глобальное лидерство. Как мы видим, в большинстве сценариев технология лишь помогает усовершенствовать то, что уже делается. Кейсы «дивного нового мира» только должны появиться, и они должны учитывать новые этические правила для ИИ.
Приоритетными сегодня кажутся четыре вопроса, выходящие за пределы технических компетенций. Первый — какое влияние на клиентов и сотрудников будут оказывать продукты с ИИ. Второй связан с защищенностью данных, используемых нейросетью. (Думаю, многих волнует, подслушивает ли голосовой робот ваши личные разговоры и что он делает с полученной информацией.) Третий аспект — справедливость и непредвзятость ИИ. Так, если нейросеть, взятая на HR-службу, будет обучаться на примерах резюме принятых работников, она может впитать ту предвзятость, которую проявляли люди-рекрутеры, проводившие подбор кандидатов на вакансии все прежние годы. Наконец, важным становится требование открытости и непрерывного аудита работающих нейросетей.
Кроме того, актуальны вопросы авторского права на созданные нейросетью произведения и достоверности сгенерированных изображений или текстов.
Не стоит списывать со счетов экологические проблемы, порождаемые технологическим развитием. Футуролог Бернард Марр утверждает, что при обучении одной математической модели производится в 17 раз больше выбросов углекислого газа, чем в среднем от жизнедеятельности человека в год.
Чтобы эта энергия не обернулась во вред, ученым и бизнесу пора задуматься о создании ответственного ИИ (RAI). Сегодня сами разработчики признаются: ИИ для нас черный ящик. Без внимания к вопросам регулирования и этики он вполне может превратиться в пресловутый Skynet — главного врага человечества, которым нас совершенно не зря пугают со времен выхода первого «Терминатора».
Остается самый главный вопрос — как это сделать и как заставить искусственный интеллект следовать этой этике.
Источник: ko.ru