Про AI и перспективы

[beldmit]

Есть у меня одна мысль по поводу AI. Вот я как профессионал состоялся в ситуации, когда средством производства у программистов был компьютер (одноразовая инвестиция) с интернетом (существенно дешевле коммуналки).

Сейчас с появлением AI те, кто пишут без применения оного, научатся или отвалятся, потому что производительность у машины в части написания кода фантастическая, и код выходит в среднем лучше, чем у хумана. И дальнейшие перспективы (в том числе и Open Source) зависят от того, сколько доступ к AI стоит на самом деле.

Вопросы, не изгадит ли регулирование малину, я пока оставляю за скобками - прямо сейчас ещё есть вольница, но потом принесут и копирайт по полной, и госграницы, и всё, что есть в большом Интернете.

Отдельно - вот разница между программированием и кодированием сейчас такая: кодирование - то, что на LLM можно отгрузить.

Comments

[juan_gandhi]

Код лучшего качества? Я как-то не наблюдаю. Работающий - да. Тесты можно принудить написать; это он хорошо делает. Но код надо чистить и рефакторить, по моему опыту.

Насчёт же кодирования vs программирования - тут я абсолютно согласен. В этом смысле напоминает мне появление языков уровнем выше ассемблера. Помню, как фортран внедрял, в одной конторе, потом в другой. Начальство веровало, что ассемблер покруче будет.

[phd_ru]

> Помню, как фортран внедрял, в одной конторе, потом в другой. Начальство веровало, что ассемблер покруче будет.

С тех пор ничего не поменялось, кроме уровней. Я знаю людей, пишущих на C++, которые не признают интерпретируемых языков. "Они же медленные!" :-D

[juan_gandhi]

Разумеется, эти люди, если и слыхали про JIT, то в него не верят.

Я видел всякие такие демо, как нативный код в первую минуту показывает хороший перформанс, а потом начинает дико отставать от джавного-скального. Потому что там в JVM внутре неонка.

ИИ как инвестиция

[bowhill]

Можно по-разному относиться к пузырям – это нормально. Но как устроены инвестиции в пузыри – тоже желательно учитывать.

Мне как-то в разговоре привели аргумент – ну и что, был пузырь доткомов – и сдулся, но Интернет же никуда не делся.

ИИ в существующем виде не только развивается, но и живёт экстенсивно. Даже на эксплуатационном уровне. В некотором смысле, по принципам Понци. Как только начнут сдуваться финансы, которые он свернул на себя – начнёт сдуваться и качество работы. И дальнейшая применимость. И далее... Это не просто какие-то финансовые вопросы, не будет денег кидать в печку котельной датацентра.

Re: ИИ как инвестиция

[beldmit]

Я не очень понимаю, куда денется качество с Вашей точки зрения

Re: ИИ как инвестиция

[ufm]

Ну как минимум - придётся "урезать осетра". В том смысле - уменьшать размер модели, что-бы она потребляла меньше электричества и места в ДЦ.

Re: ИИ как инвестиция

[bowhill]

Откуда сегодня берётся качество? Из изменения и развития методов, новых принципов, элементов? Нет, как были трансформеры, так и остались. Доступные параметры, головы etc. растут – это и есть экстенсивность: качество как отображение количества. Растёт пузырь – растёт датацентр, растёт модель.

Уменьшение денег означает меньшую модель. Меньший стохастический интеллект.

[vitus_wagner]

Не в jit-е дело. Вот в postgres прикрутили jit, так там от него сплошные тормоза. Только в оченьс специфических случаях критична именно производительность кода. А обычно тормоза где угодно в другом месте, только не там где сравниваем компилятор и интерпретатор. Скорее всего критичные по производительнсти куски в интерпретаторе давно загнаны во встроенные или библиотечные функции. А тормозит оно на ожидании ввода-вывдоа, возможно сетевого или взаимодействии с пользователем.

Re: ИИ как инвестиция

[vitus_wagner]

Не придется. Поскольку чуть-чуть урежешь, и не нужнен тебе ДЦ, оно в твою локальную видеокарту влезет.

Re: ИИ как инвестиция

[vitus_wagner]

Расти качество временно перестанет, когда пузырь лопнет. Но уже достингутое - никуда не денется. А потом, когда иссякнет возможность закидать проблему деньгами. начнут проблему закидывать мозгами. Вспомнят те подходы, которые были в ходе бума отброшены как медленные и трудоемкие. Развитие методов, новые принципы и элементы появляются. Периодически информация о них пробегает. Далеко не все из них попадают в production, потому что пока есть возможность экстенсивного роста. Кончится она, вспосмнят про эти принципы и методы.

[juan_gandhi]

Хм, ну если речь о вводе-выводе (тут грех возражать), то можно и на джаваскрипте писать или на го, какая разница-то. (Но не на питоне, он меня уже достал конкретно.)

Re: ИИ как инвестиция

[bowhill]

Как пелось в песне – это даже хорошо, что сейчас нам плохо.

Что именно достигнутое? И из чего должно следовать такое безусловное будущее благолепие? Это практические, а не риторические вопросы. Люди решают проблему, даже постановки которой они не понимают.

И было не очень, и сейчас ещё не вполне, но потом обязательно станет хорошо – практические опыты, скорее, показывают обратное. А мозгами (хорошего и разного качества) закидывают уже давно и новых идей за 50 лет появилось немного (self-attn.), даже автоматизация backpropagation (графа производных) – это давние идеи. Сейчас появилась возможность закидывать транзисторами и деньгами. Потому что hype-tech.

Так что, хайп-тек сохранится? Может быть, но и фокус может поменяться.

PS: Витус у нас тот ещё полемист-исследователь, так что ответ рядом.