Новости технологий

О, отлично — ИИ может быть не только расистом и сексистом, но и эйджистом.

Краткое описание по статье О, отлично — ИИ может быть не только расистом и сексистом, но и эйджистом.

Название: О, отлично — ИИ может быть не только расистом и сексистом, но и эйджистом. . Краткое описание: ⭐ Мы приняли использование искусс . Дата публикации: 24.01.2022 . Автор: Алишер Валеев .

Для чего создан сайт Novosti-Nedeli.ru

Данный сайт посвящен новостям мира и мира технологий . Также тут вы найдете руководства по различным девайсам.

Сколько лет сайту?

Возраст составляет 3 года


Мы приняли использование искусственного интеллекта (ИИ) в сложных процессах — от здравоохранения до нашего повседневного использования социальных сетей — часто без критического анализа, пока не стало слишком поздно. Использование ИИ неизбежно в нашем современном обществе, и оно может увековечить дискриминацию, даже если его пользователи не подозревают о каких-либо предубеждениях. Когда поставщики медицинских услуг полагаются на предвзятую технологию, это приводит к реальным и вредным последствиям.

Это стало ясно недавно, когда исследование показало, что пульсоксиметры, которые измеряют количество кислорода в крови и были важным инструментом для клинического лечения COVID-19, менее точны у людей с более темной кожей, чем у людей со светлой кожей. Выводы привели к тому, что в настоящее время проводится широкомасштабная проверка на предмет расовой предвзятости в попытке создать международные стандарты для тестирования медицинских устройств.


Есть примеры в здравоохранении, бизнесе, правительстве и повседневной жизни, когда предвзятые алгоритмы приводили к проблемам, таким как сексистские поиски и расистские прогнозы вероятности повторного совершения правонарушения.

Убьет ли Google банки?

Как банки могут конкурировать с крупными технологиями

ПРОЧИТАТЬ СТАТЬЮ

ИИ часто считается более объективным, чем люди. В действительности, однако, алгоритмы ИИ принимают решения на основе аннотированных человеком данных, которые могут быть предвзятыми и исключающими. Текущие исследования предвзятости в ИИ сосредоточены в основном на поле и расе. Но как насчет возрастной предвзятости — может ли ИИ быть эйджистом?

Эйджистские технологии?

В 2021 году Всемирная организация здравоохранения выпустила глобальный отчет о старении, в котором содержится призыв к срочным действиям по борьбе с эйджизмом из-за его широкомасштабного воздействия на здоровье и благополучие.

Эйджизм определяется как «процесс систематического формирования стереотипов и дискриминации людей по причине их старости». Оно может быть явным или неявным и может принимать форму негативного отношения, дискриминационной деятельности или институциональной практики.

Распространенность эйджизма выдвинулась на передний план на протяжении всей пандемии COVID-19. Пожилые люди были названы «бременем для общества», а в некоторых юрисдикциях возраст использовался в качестве единственного критерия для лечения, спасающего жизнь.

Кампания ВОЗ по борьбе с эйджизмом.

Цифровой эйджизм существует, когда возрастные предубеждения и дискриминация создаются или поддерживаются технологиями. В недавнем отчете указывается, что «цифровой мир» состоит из более чем 2,5 квинтиллионов байтов данных каждый день. Тем не менее, даже несмотря на то, что пожилые люди используют технологии в большем количестве — и извлекают выгоду из этого использования — они по-прежнему остаются той возрастной группой, у которой меньше всего шансов иметь доступ к компьютеру и Интернету.

Цифровой эйджизм может возникнуть, когда эйджистское отношение влияет на дизайн технологий или когда эйджизм затрудняет для пожилых людей доступ и пользование всеми преимуществами цифровых технологий.

Циклы несправедливости

Существует несколько взаимосвязанных циклов несправедливости, в которых технологические, индивидуальные и социальные предубеждения взаимодействуют, создавая, усиливая и способствуя цифровому эйджизму.

Барьеры для доступа к технологиям могут исключать пожилых людей из процесса исследований, проектирования и разработки цифровых технологий. Их отсутствие в проектировании и разработке технологий также можно объяснить эйджистским убеждением, что пожилые люди неспособны использовать технологии. Таким образом, пожилые люди и их взгляды редко участвуют в разработке ИИ и связанных с ним политик, финансирования и услуг поддержки.

Уникальный опыт и потребности пожилых людей игнорируются, несмотря на то, что возраст является более сильным предиктором использования технологий, чем другие демографические характеристики, включая расу и пол.

ИИ обучается на данных, и отсутствие пожилых людей может воспроизвести или даже усилить вышеупомянутые эйджистские предположения в его выводах. Многие технологии искусственного интеллекта ориентированы на стереотипный образ пожилого человека с плохим здоровьем — узкого сегмента населения, который игнорирует здоровое старение. Это создает петлю отрицательной обратной связи, которая не только препятствует использованию ИИ пожилыми людьми, но и приводит к дальнейшей потере данных из этих демографических групп, что могло бы повысить точность ИИ.

Даже когда пожилые люди включаются в большие наборы данных, они часто группируются в соответствии с произвольными подразделениями разработчиков. Например, пожилые люди могут быть определены как все лица в возрасте 50 лет и старше, несмотря на то, что более молодые возрастные когорты делятся на более узкие возрастные диапазоны. В результате пожилые люди и их потребности могут стать невидимыми для систем ИИ.

Таким образом, системы ИИ усиливают неравенство и усиливают социальную изоляцию отдельных слоев населения, создавая «цифровой низший класс», состоящий в основном из пожилых, бедных, расовых и маргинализированных групп.

Борьба с цифровым эйджизмом

Мы должны понимать риски и вред, связанные с возрастными предубеждениями, поскольку все больше пожилых людей обращаются к технологиям.

Первый шаг для исследователей и разработчиков — признать существование цифрового эйджизма наряду с другими формами алгоритмических предубеждений, такими как расизм и сексизм. Им необходимо направить усилия на ее выявление и измерение. Следующим шагом является разработка мер безопасности для систем ИИ, чтобы смягчить последствия старения.

В настоящее время очень мало обучения, аудита или надзора за деятельностью, связанной с ИИ, с нормативной или правовой точки зрения. Например, действующий в Канаде режим регулирования искусственного интеллекта крайне несовершенен.

Это представляет собой проблему, но также и возможность включить эйджизм в ряд с другими формами предубеждений и дискриминации, нуждающихся в устранении. Чтобы бороться с цифровым эйджизмом, пожилые люди должны быть вовлечены в осмысленное и совместное участие в разработке новых технологий.

Поскольку предвзятость в ИИ теперь признана критической проблемой, требующей срочных действий, пришло время рассмотреть опыт цифрового эйджизма для пожилых людей и понять, как старение во все более цифровом мире может усилить социальное неравенство, изоляцию и маргинализацию.Разговор

Статья Шарлин Чу, доцента факультета сестринского дела Лоуренса С. Блумберга Университета Торонто; Кэтлин Лесли, доцент факультета медицинских дисциплин Университета Атабаски; Руне Нируп, старший научный сотрудник, история и философия науки, Кембриджский университет, и Шехроз Хан, доцент (статус), Институт биоматериалов и биомедицинской инженерии, Университет Торонто

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочитайте оригинальную статью.


Source: https://thenextweb.com/

Заключение

Вы ознакомились с статьей —
О, отлично — ИИ может быть не только расистом и сексистом, но и эйджистом.

Пожалуйста оцените статью, и напишите комментарий.

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован.

Кнопка «Наверх»