![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
http://tema.livejournal.com/2358120.html
Ну прям как бывалоча мой тесть про Гулаг: "наказали - значит, было за что".
Ну прям как бывалоча мой тесть про Гулаг: "наказали - значит, было за что".
Oct. 31st, 2016
Тут недавно прошел слух, что в гугле какой-то ИИ сбацал алгоритм шифровки, логика которого совершенно неясна человеку. Конечно, такие алгоритмы любят изготовлять в России в ФАПСИ; там важно, чтобы расшифровать могла только гебня с помощью особых приборов. Но речь не об алгебре сейчас.
Некоторые доказательства некоторых теорем тоже написаны на коке или агде, в полуавтоматическом режиме, и занимают такой объем, что хрен ты их прочитаешь. Ну да, ну да, и живые математики такие имеются. Что как бы иллюстрирует, что не все так просто. Да в конце концов, и существование свободной монады для некоторых под вопросом.
Но в целом-то надо уже признать, что как мы ни хрена не понимаем в мышлении дельфинов (а интерес к ним пропал с прекращением холодной войны, ну вы поняли), то и тем более в deep learning, если все это достаточно многослойно, то каюк. Нет, алгоритм-то понятен, а результаты - нет. По 280 образцам программа учится отличать кошек от мышек. Мы тоже можем, но мы не знаем, как это работает.
Ну да, ну да, мы не знаем, как и мы работаем (и, главное, зачем). Но мы ведем себя примерно одинаково, и у нас есть иллюзия, что мы понимаем друг друга; это все выдрессировано социумом за последние миллион лет, что ли. А вот с чужим разумом взаимопонимания нет. Мы не узнаем его мотивацию, как кошка не понимает, почему по выходным ей дают днем еду, а по рабочим дням не дают (и что это они такие сволочи).
Так вот, мотивация. И когда эти системы ии начинают взаимодействовать друг с другом, тут мы, по идее, ничего не понимаем. Книжки написаны, но не понимаем.
Причем, до очень недавнего времени эти системы ии были ужасно примитивны, "вроде ящера". Я имею в виду общественные и государственные системы. А сейчас у них появляется интеллект. ЦРУ прошляпило переворот в Иране и в СССР, и падение Берлинской стены, потому что в те поры у них интеллект был групповой. А сейчас, похоже, к власти приходят такие искусственные ЗОГи, что очень стремно. ФБР и не поймет, почему это в Детройте или в Челябинске ни хрена, к примеру, экономика не получается. Или зачем вообще, к примеру, Путин или Ын. Оно так само получается.
И хрен убежишь; если это чудище обло вдруг решит, что для какой-то невинной поставленной цели ("а давайте мы сократим выброс СО2 в атмосферу на 50% к 2050-му году) вдруг, оказывается, надо запретить Монсанто делать что-нибудь такое, и в результате внезапно прилетевшая из Африки стеклокрылая тля пожирает всю кукурузу в Канзасе, Оклахоме и Охайо, а эбольный комар распространяется в Ньюйоркском метро (спасибо группе школьников, приехавших, спасибо ЮНИСЕФ, из Африку на каникулы), и в конце концов на машинах оказывается ну что-то некому ездить именно в 2050-м году.
Но мы этого знать не будем, даже если читаем Necronomicon и The Catcher in the Rye каждый день.
Некоторые доказательства некоторых теорем тоже написаны на коке или агде, в полуавтоматическом режиме, и занимают такой объем, что хрен ты их прочитаешь. Ну да, ну да, и живые математики такие имеются. Что как бы иллюстрирует, что не все так просто. Да в конце концов, и существование свободной монады для некоторых под вопросом.
Но в целом-то надо уже признать, что как мы ни хрена не понимаем в мышлении дельфинов (а интерес к ним пропал с прекращением холодной войны, ну вы поняли), то и тем более в deep learning, если все это достаточно многослойно, то каюк. Нет, алгоритм-то понятен, а результаты - нет. По 280 образцам программа учится отличать кошек от мышек. Мы тоже можем, но мы не знаем, как это работает.
Ну да, ну да, мы не знаем, как и мы работаем (и, главное, зачем). Но мы ведем себя примерно одинаково, и у нас есть иллюзия, что мы понимаем друг друга; это все выдрессировано социумом за последние миллион лет, что ли. А вот с чужим разумом взаимопонимания нет. Мы не узнаем его мотивацию, как кошка не понимает, почему по выходным ей дают днем еду, а по рабочим дням не дают (и что это они такие сволочи).
Так вот, мотивация. И когда эти системы ии начинают взаимодействовать друг с другом, тут мы, по идее, ничего не понимаем. Книжки написаны, но не понимаем.
Причем, до очень недавнего времени эти системы ии были ужасно примитивны, "вроде ящера". Я имею в виду общественные и государственные системы. А сейчас у них появляется интеллект. ЦРУ прошляпило переворот в Иране и в СССР, и падение Берлинской стены, потому что в те поры у них интеллект был групповой. А сейчас, похоже, к власти приходят такие искусственные ЗОГи, что очень стремно. ФБР и не поймет, почему это в Детройте или в Челябинске ни хрена, к примеру, экономика не получается. Или зачем вообще, к примеру, Путин или Ын. Оно так само получается.
И хрен убежишь; если это чудище обло вдруг решит, что для какой-то невинной поставленной цели ("а давайте мы сократим выброс СО2 в атмосферу на 50% к 2050-му году) вдруг, оказывается, надо запретить Монсанто делать что-нибудь такое, и в результате внезапно прилетевшая из Африки стеклокрылая тля пожирает всю кукурузу в Канзасе, Оклахоме и Охайо, а эбольный комар распространяется в Ньюйоркском метро (спасибо группе школьников, приехавших, спасибо ЮНИСЕФ, из Африку на каникулы), и в конце концов на машинах оказывается ну что-то некому ездить именно в 2050-м году.
Но мы этого знать не будем, даже если читаем Necronomicon и The Catcher in the Rye каждый день.