т.наз. интеллект

[juan_gandhi]

Тут я на днях выяснил, что код, что навалял мне Claude, чтобы посты в дриме переводить в формат .md, совершенно по-наглому находит по регуляркам HTML теги и превращает их в .md маркеры; например, берёт такой <p.*/> и делает из него... ну что-то там - в результате <pre> превращается в тыкву. У нас был такой инженер, Дивьеш, я его год уговаривал не парсить HTML регулярками; под конец уговорил - когда он изучил parsers-combinators. Эти парсеры-комбинаторы и на питоне есть, юзай - не хочу. Но нужна ж голова. Да, на stackoverflow ржут на такими регулярками. Но идиотов же полно в нашей профессии.

Но это же Клод. Он же, по идее, знаком со всеми достижениями человечества. Знаком-то он знаком, но нужна же чуйка, вкус, понимание. А он такой idiot-savant. Знает всё, не понимает ничего.

И я решил сегодня расспросить Грока, что он про это всё думает. А Грок такой - ха, да мы: искусственные интеллекты, да мы вообще! Мы и искусство ценим, и умеем превращать текст в картину и в музыку, и знаем, что кошка абстрагируется до животного (а дальше? - спросил бы я, но не успел).

Ну хорошо, говорю я ему, молодцы. А вот если вам дать HTML контент, как вы его будете в .md преобразовывать? Ну как, отвечает Грок - вот, например (это "вот например" в качестве аргумента с головой выдаёт, конечно, индийского студента), кусочек HTML, и он будет превращён в такой-то кусочек .md файла; код будет выглядеть вот так - и начинает мне лепить какой-то код.

И вдруг он прекращает лепить код, и вместо всего этого показывает мне картинку, какую он творчески создал в процессе. Вот какую картинку:

 

И тут дошло до меня, о падишах. Мы, пожалуй, в опасности. Потому что эта зараза сейчас лезет везде. Ладно она медицинские советы даёт. Но она же будет операции делать. И в процессе вдруг решит, что она лучше сделает котлету, так красивее. Ну и так далее. Или что пациенту будет легче, если он умрёт.

Вы слыхали, Теренс Тао недавно употребил какой-то ИИ, чтобы "что-то доказать". Нет, на самом деле всё доказал Теренс Тао. Теренсу нужен был хороший пример, в качестве иллюстрации. Ну типа как тест-кейс. Вот этот тест-кейс ИИ ему и сварганил. Здесь абстракция не нужна.

Вопрос-то принципиальный. 

Comments

[malyj_gorgan]

Я вже якийсь час тому описував стандартний неодноразово почутий моїм старшим сценарій в школі:
[Вона:] ChatGPT, send a message to my BF telling him how much I love him.
[Він:] ChatGPT, I got a message, summarize it for me.

При цьому значна частина учнів прямо зараз замість самим робити домашню роботу чи якийсь тест, згодовують його ШІ. А вчитель не сам перевіряє, а згодовує відповіді учнів тому ж ШІ. Відрізняються лише преференції, хто яким ШІ користується.

[juan_gandhi]

Аплодисменты. Народ уже переехал в будущее, а мы тормозим, слава те господи.

[balu]

Мені грок часто видає ієрогліфи поміж літер. Він, звісно, знає все, але забуває, що я таке не розумію

[spamsink]

И не только он. Я ещё где-то замечал. Интересно, если их перевести, они там осмысленные или нет?

[balu]

Спитаю у іншого ШІ

[malyj_gorgan]

Коли у ШІ зʼявиться почуття гумору, і він, начитавшись старих жартів, почне вставляти ієрогліфи "Швидко" і "Дешево", настане час остаточно здатися і йти топитися

[juan_gandhi]

"Повторно не замораживать", наверно.

[chaource]

Я задаю вопросы ИИ только въ случаѣ, если отвѣты будутъ провѣряться мною въ реальной жизни тутъ же на мѣстѣ. Я прошу ИИ написать кодъ только въ случаѣ, если я примѣрно представляю себѣ, гдѣ и какой кодъ долженъ получиться. И потомъ я читаю это строку за строкой и провѣряю, такъ ли получилось, какъ я ожидалъ. Обычно - не такъ и не тамъ и не совсѣмъ то, а комментарiи сгенерированы либо ненужные, либо невѣрные. Думаю, нельзя ли гдѣ-то прописать "пожалуйста вообще безъ комментарiевъ".

[http://users.livejournal.com/sorcerer-/]

Просто надо сказать что "без комментариев". Они тупые, но исполнительные.

[sassa_nf]

> И вдруг он прекращает лепить код

Claude got ADHD?

[juan_gandhi]

An intelligence undiscernible from a natural one.

[biber551]

Вас в Батлерианский джихад записывать?

[juan_gandhi]

Нет, почему же. Ну ил где-то немножко да. Бдительность нужна. Если б люди софтверу так доверяли, как этим ботам, самолёты бы падали регулярно.