Использование современных компьютеров

В медицине широко используются новые технологии. Врачи-искусствоведы проводят консультации с пациентами, ставят диагнозы, анализируют результаты и помогают хирургам во время процедур.

Одна из самых известных систем машинного обучения в здравоохранении — IBM Watson Health. Врачи обучают ИИ диагностировать болезни и прописывать лечение. У Watson Health было много положительных отзывов. В 2013 году, например, вероятность выбора суперкомпьютером оптимального режима лечения составляла 90%.

Однако летом 2018 года были сделаны некоторые разоблачения, поскольку некоторые из рекомендаций системы по лечению рака были опасными. Например, Уотсон посоветовал назначить больному раком, у которого кровотечение, лечение, которое могло бы вызвать еще большее кровотечение. К счастью, эти случаи были не настоящими, а гипотетическими.

Это правда, что люди-врачи допускают некоторые ошибки, но когда задействован ИИ, труднее понять, кто виноват. Рискнет ли настоящий врач противоречить цифровому коллеге, созданному людьми, которые наполнили его сотнями тысяч научных статей, книг и тематических исследований? Если врач этого не сделает, должен ли он взять на себя все последствия, даже отрицательные?

ИИ должен быть прозрачным

Одна из основных проблем с использованием ИИ для определения судьбы человечества заключается в том, что алгоритмы часто неясны, и очень сложно определить причину ошибок, чтобы избежать того, чтобы они не воспроизводились. Если мы займем позицию разработчиков этих автономных систем обучения, такая ситуация станет понятной: кто согласен поделиться своим ноу-хау с возможными конкурентами? Должны ли коммерческие секреты иметь такое значение, когда на карту поставлены жизни людей?

Политики всего мира пытаются выяснить, как занять позицию в отношении непрозрачного регулирования ИИ. В Европейском союзе «субъекты данных» имеют право знать, на каких критериях основаны эти решения, принимаемые AI, и которые затрагивают их интересы. Япония вступила на тот же путь, но соответствующий закон еще находится в стадии обсуждения.

Некоторые разработчики выступают за прозрачность, но на сегодняшний день они довольно редки. В частности, это касается технологической компании CivicScape, которая в 2017 году раскрыла исходный код своей системы полицейского прогнозирования. Эта ситуация остается исключением, а не правилом.

Теперь, когда гений искусственного интеллекта вышел из своего факела, человечество вряд ли повернет вспять. Это означает, что до тех пор, пока невозможно доказать, что решения, принимаемые ИИ, беспристрастны и справедливы, использование ИИ должно основываться на хорошо разработанных законах и на навыках создателей и пользователей этих законов, автономных систем обучения.