Инструменты искусственного интеллекта (ИИ), разработанные для помощи врачам, могут недооценивать симптомы различных заболеваний у женщин, а также у некоторых расовых и этнических групп.
Это, в свою очередь, может вести к тому, что представителям этих групп будет оказываться менее качественное лечение, передает kommersant.ru со ссылкой на ft.com
Как отмечает FT, многие врачи уже используют как обычные чат-боты, такие как Gemini и ChatGPT, так и специализированные медицинские ИИ-инструменты, помогающие заполнять карты пациентов, выделять в них важные симптомы, делать краткие обзоры историй болезни и т. д.
В июне группа ученых Массачусетского технологического института (MIT) проанализировала несколько таких чат-ботов и ИИ-инструментов, в том числе GPT-4 и Palmyra-Med. Исследователи пришли к выводу, что многие из них рекомендовали врачам намного более низкий уровень ухода за женщинами, а самим пациенткам чаще предлагали самолечение. Авторы другого исследования MIT обнаружили те же закономерности при выдаче рекомендаций чернокожим и азиатам.
Еще одно исследование MIT свидетельствует о том, что пациентам, допускавшим много опечаток и ошибок из-за того, что английский не был для них родным языком, чат-боты на 7–9% реже рекомендовали обратиться к врачу в сравнении с теми, кто писал грамотнее. Ученые из Лондонской школы экономики также пришли к выводу, что ИИ-модель Gemma от Google, которую применяют во многих социальных учреждениях в Великобритании, недооценивала физические и психические проблемы у женщин при составлении и обобщении историй болезни.