Category: it

child pic

Очередное фиаско машинного обучения

алгоритмы не проявляют социальной сознательности и делают неполиткорректный вывод, что негры чаще ругаются нехорошими словами ("offensive language") в твиттере, чем белые (via birdwatcher, oригиналы исследований тут и тут.) Примечательно, что в первой работе проблематичным сочли уже сам вывод, что черные могут чаще сквернословить, независимо от его фактической верности. Авторы второй, хотя бы, посадили специально обученных исследователей, которые знали, какой расы пишущий твит, и правильно понимали, что неграм так ругаться можно, не классифицировали их твиты как оскорбительные, и поэтому смогли показать, что алгоритм ошибается и дискриминирует негров.

Вообще, страшная наивность со стороны исследователей надеяться, что слепые к расе и прочим защищенным признакам пишущего алгоритмы могут определять offensive или hate speech так, чтобы это удовлетворяло современное американское общество. Стандарты позволенного поведения явно сформулированы так, что специальному набору привилегированных групп позволяется куда больше, чем простым людям.

При этом для не слепых к защищенным признакам алгоритмов задача довольно проста и даже не требует особого машинного обучения для вполне приличной точности. Дело в том, что семантическая система сейчас радикально упрощена по сравнению с табу в другие времена и в других обществах. Например, в Советском Союзе 70х можно было вылететь с работы и/или получить разные неприятности за выкрик, скажем, "Да здравствует фашизм!", но просто за употребление просто слова "фашизм", или любого другого, в подходящем контексте, санкций не следовало ни для кого. А сейчас страшное "n-word", аналогичное русскому "негр", настолько запретно, что административное расследование начинается даже из-за употребления слова в максимально санитизированном академическом контексте, когда профессор с неправильным цветом кожи цитирует черного корифея. Мне как-то не приходит в голову, когда в предыдущий раз в европейской культуре был такой запрет на слова в реальности, а не в фантазийном контексте (типа "неназываемого" Вольдеморта.) В любом случае, задачу алгоритмической классификации это радикально упрощает, просто нужно сначала явно сообщать алгоритму, что именно разрешено автору высказывания в текущей социально-политической ситуации и в соответствии с его набором расовых и половых признаков.
child pic

DAO "theft"

http://www.bloomberg.com/view/articles/2016-06-17/blockchain-company-s-smart-contracts-were-dumb
Интересный комментарий к текущему скандалу с блокчейн фондом DAO.

Романтики безгосударственного капитализма сначала написали

The terms of The DAO Creation are set forth in the smart contract code existing on the Ethereum blockchain at 0xbb9bc244d798123fde783fcc1c72d3bb8c189413. Nothing in this explanation of terms or in any other document or communication may modify or add any additional obligations or guarantees beyond those set forth in The DAO’s code. Any and all explanatory terms or descriptions are merely offered for educational purposes and do not supercede or modify the express terms of The DAO’s code set forth on the blockchain.


Но как только кто-то понял их умный контракт лучше, чем они сами понимали, и увел у них денег, то они сразу решили грохнуть не только сам этот умный контракт, но и всю систему умных контрактов. То есть, код в блокчейне кодом, ни как только влиятельные люди могут денег потерять, сразу без всякого суда и кодекса конкретные куски криптоденег объявляются несуществующими. На очереди теперь сотворение куска криптоденег мимо протокола (hard fork.)

Интересно, сколько раз им надо будет в такое вляпаться, чтобы понять, зачем нужны законы, суды, центральный клиринг, центральный банк итд.