Исследователи все чаще отмечают, что искусственный интеллект не только улучшает и дополняет работу людей, но и усугубляет их наиболее распространенные заблуждения и даже ошибки. Мы уже
писали о том, что нейросети в юриспруденции склонны чаще признавать виновными людей из социально неблагополучных слоев населения или, например, с темным цветом кожи, потому что они якобы чаще «белых воротничков» нарушают закон.
Аналогичные тенденции неожиданно стали отмечать и в медицине. Наиболее распространенные ошибки ИИ в этой отрасли - «превентивные» чрезмерно пессимистичные диагнозы и, соответственно, несоразмерное лечение. Есть и другие, уже выявленные, проблемы:
1) Способность ИИ перерабатывать огромные объёмы данных, и выбирать оттуда переменные, на которые человек бы не обратил внимания, с одной стороны, может помочь диагностировать заболевания на ранней стадии, но, с другой, иногда ИИ делает неверные выводы по этим "незначительным деталям".
Так, если ИИ получит данные из клиники скрининга рака, которая, например, делает исследования рака желудка только по вторникам, а рака лёгких по пятницам, он будет считать, что день недели, в который сделан анализ, напрямую связан с вероятным видом рака.
2) Не всегда раннее диагностирование эффективно для пациента. Например, очень много шума было вокруг нейросети, которая могла раньше врачей определять болезнь Альцгеймера и аутизм. Однако довольно быстро выяснилось, что при этих заболеваниях скорость диагностики никак не влияет на течение болезни и эффективность ее лечения.
3) До того как в Apple
Watch появилась функция, позволяющая обнаруживать фибрилляцию предсердий (разновидность аритмии), этот фактор риска инсульта обнаруживался медиками, которые выписывали пациенту необходимые лекарства, разжижающие кровь. Теперь же пациентов стало намного больше, к тому же, медикам часто приходится лечить не только фибрилляцию у действительно больных, но и последствия самолечения у тех, кому диагноз поставил "умный гаджет".
... Мы обозначаем тренды