#tech #psy #AI

#tech #psy #AI

@dervish_candela принёс в своё время неплохое (только сейчас добрался до):

https://medium.com/@blaisea/physiognomys-new-clothes-f2d4b59fdd6a

«длинный, занудный, но важный пост о bias'e в machine learning: в конечном итоге все эти "нейросеть научилась распознавать преступников", "нейросеть определяет геев по фотографии" почти неизбежно оказывается канонизацией наших собственных ошибок восприятия (угрюмый=опасно) и мышления (эссенциализм), а не открывает или обнаруживает некие ранее неизвестные закономерности.

это пиздец опасно, потому что тех, кто будет организовывать охоту на ведьм, не волнует реальность, их волнует только толщина и убедительность указывающего перста, обеспечивающего бесперебойную поставку ведьм.

TL;DR: гея нельзя определить по фотографии, но исследователь, поставивший себе задачу "определить нейросетью гея по фотографии", заведомо возьмёт именно такие фотографии, и применит именно такой метод, что у него как будто бы получится очень правдоподобный результат. нейросеть даёт тебе ровно то, что ты очень хочешь получить».

Medium
Physiognomy’s New Clothes – Blaise Aguera y Arcas – Medium
by Blaise Agüera y Arcas, Margaret Mitchell and Alexander Todorov