Искусственный интеллект тоже подвержен когнитивным искажениям. Если, например, в обучающей выборке женщины возвращали кредиты исправнее мужчин, то нейросетка может запомнить этот параметр и начать мужчин дискриминировать и реже выдавать им займы при прочих равных. Это и напрямую невыгодно банку – он недозарабатывает, и приводит к диким скандалам, если кто-то обнаружит.
Американский #стартапдня KOSA обещает корпорациям лечение проблемы. Их Умные Алгоритмы посмотрят на ваши модели, всё заметят, всё поправят, всё объяснят сотрудникам и руководству, и станут ваши алгоритмы тоже Умными.
Реально продукта у стартапа, видимо, ещё нет. В разделе успешных кейсов они приводят выглядящее серьезным для непрофессионала исследование об уточнении диагностики рака кожи (там афроамериканцев дискриминировали) и какой-то фантастически стыдный отчет о том, как они считали мужские и женские слова в публичных вакансиях. Дескать, слово “analyst” – мужское (моего знания английского не хватает, чтобы понять, почему), и женщины, когда видят его в описании, на такую вакансию не откликаются. А KOSA написал автозамену, чтобы делать тексты гендерно-нейтральными.
Тем не менее как консалтинговый проект они, наверное, могут зарабатывать уже сейчас, а когда-нибудь и до реального продукта доберутся, если повезет. Инвесторы пару раундов им давали, сумма инвестиций публично не раскрывалась.
https://kosa.ai/
---
http://t.me/startupoftheday — рассказ о новом стартапе каждый день. Кратко и без воды.
Американский #стартапдня KOSA обещает корпорациям лечение проблемы. Их Умные Алгоритмы посмотрят на ваши модели, всё заметят, всё поправят, всё объяснят сотрудникам и руководству, и станут ваши алгоритмы тоже Умными.
Реально продукта у стартапа, видимо, ещё нет. В разделе успешных кейсов они приводят выглядящее серьезным для непрофессионала исследование об уточнении диагностики рака кожи (там афроамериканцев дискриминировали) и какой-то фантастически стыдный отчет о том, как они считали мужские и женские слова в публичных вакансиях. Дескать, слово “analyst” – мужское (моего знания английского не хватает, чтобы понять, почему), и женщины, когда видят его в описании, на такую вакансию не откликаются. А KOSA написал автозамену, чтобы делать тексты гендерно-нейтральными.
Тем не менее как консалтинговый проект они, наверное, могут зарабатывать уже сейчас, а когда-нибудь и до реального продукта доберутся, если повезет. Инвесторы пару раундов им давали, сумма инвестиций публично не раскрывалась.
https://kosa.ai/
---
http://t.me/startupoftheday — рассказ о новом стартапе каждый день. Кратко и без воды.