В чём заключается проблема социальной предвзятости в модели CLIP?

Проблема социальной предвзятости в модели CLIP заключается в том, что она отражает предубеждения своих создателей и данные, на которых обучалась. dailyai.com

Некоторые примеры предвзятости:

• Гендерные различия. dailyai.com CLIP непропорционально часто приписывает мужчинам ярлыки, описывающие профессии с высоким статусом, такие как «руководитель» и «врач». dailyai.com
• Стереотипы. dailyai.com Модель склонна ассоциировать мужчин и женщин с такими проблематичными стереотипами, как «леди» и «блондинка». dailyai.com
• Расовая категоризация. www.unite.ai CLIP с большей вероятностью классифицирует людей с многорасовым происхождением как принадлежащих к меньшинству, чем к большинству. www.unite.ai

В 2021 году аудит OpenAI обнаружил предвзятость по возрасту и полу в модели CLIP. dzen.ru

Для решения этой проблемы существуют подходы, направленные на смягчение социальной предвзятости, например, удаление предвзятой атрибутивной информации из вложений модели. paperswithcode.com Однако эти методы могут сопровождаться значительным снижением возможностей модели. paperswithcode.com