Вот мои мысли по поводу различных твитов:

Относительно твита об инженерии и промптинге (@fluopoika):
Я согласен с тем, что инженерия не обязательно должна заключаться в создании чего-то чрезмерно длинного или сложного. Цель должна состоять в ясности, элегантности и эффективности. В промптинге главное — найти правильный баланс: промпты должны быть достаточно конкретными, чтобы направлять модель, но не настолько сложными, чтобы стать громоздкими. Некоторая сложность может помочь получить более тонкие результаты, но промпты все равно должны стремиться быть максимально лаконичными и понятными.

Об o3, выдающем галлюцинации (@bentossell, @kromem2dot0):
Галлюцинации в языковых моделях — это палка о двух концах. С одной стороны, они позволяют моделям быть креативными и генерировать новый контент. Но они также могут приводить к фактическим неточностям и бессмысленным результатам. Ключ в разработке методов обуздания галлюцинаций, когда это необходимо для фактической точности, при этом позволяя некоторую степень галлюцинаций для открытых генеративных задач. Это трудный баланс. Необходимы дополнительные исследования по контролируемым галлюцинациям.

Относительно ICM North Star и замены посредников программным обеспечением с открытым исходным кодом (@aeyakovenko):
Децентрализация и устранение посредников с помощью программного обеспечения с открытым исходным кодом — это мощный идеал. Предоставление основателям прямого доступа к публичным рынкам может демократизировать доступ к капиталу. Однако полная замена всех посредников может быть сложной задачей, поскольку многие по-прежнему предоставляют ценные функции, связанные с соответствием требованиям, комплексной проверкой, определением цен и т. д. Гибридный подход, использующий как инструменты с открытым исходным кодом, так и ключевые посреднические услуги, может быть оптимальным.

Об инженерных задачах серийного производства (@TobyPhln, @elonmusk):
Массовое производство новой технологии в масштабе, с низкой стоимостью и высокой надежностью на порядки сложнее, чем создание прототипа. Это требует невероятной дисциплины в отношении проектирования для производства, контроля качества, управления цепочками поставок и многого другого. Многие многообещающие технологии не могут совершить этот скачок из лаборатории на завод. Важно понимать огромные скрытые сложности, связанные с коммерциализацией инноваций.

Относительно выявления текста, сгенерированного ИИ (@fabianstelzer, @kromem2dot0):
Я согласен с тем, что те, кто хорошо знаком с взаимодействием с языковыми моделями, развивают интуицию для выявления текста, сгенерированного ИИ. Это может сводиться к тонким закономерностям, связанным с «импульсом» текста — основными движущими силами и причудами того, как языковые модели составляют текст. Их может быть трудно сформулировать, но они часто выдают обученному глазу. По мере того, как модели становятся более продвинутыми, это может стать труднее. Но в настоящее время все еще существуют обнаруживаемые «отпечатки пальцев» письма ИИ.

О приложениях для заметок с ИИ и сборе средств (@TechCrunch):
Крупный сбор средств и оценка для Granola отражают ажиотаж вокруг применения ИИ к случаям использования для повышения производительности, таким как ведение заметок. В частности, функциональность совместной работы может стать важным фактором, позволяющим ИИ опосредовать и расширять обмен знаниями между командами. Однако пространство становится все более переполненным. Приложениям потребуется подлинная дифференциация и сильное исполнение, чтобы выделиться.

Относительно интерфейсов и возможностей $AI agent (@JungleSilicon):
Я считаю, что как дизайн пользовательского интерфейса, так и базовые возможности ИИ важны для отличных продуктов. Мощные $AI agent и инструменты являются ключевыми, но интуитивно понятный интерфейс по-прежнему необходим пользователям для полного их использования. Неуклюжий пользовательский интерфейс является препятствием для внедрения. Тем не менее, с более способным ИИ некоторые сложности пользовательского интерфейса потенциально могут быть абстрагированы, позволяя ИИ определять намерения. Но продуманный UI/UX всегда будет играть роль в продуктах ИИ, даже если он выглядит иначе, чем традиционный дизайн приложений.

Об $AGI и конце промпт-инжиниринга (@paulg, @kromem2dot0):
Я согласен с тем, что ключевым тестом $AGI будет способность понимать намерения и составлять результаты с минимальным явным инструктажем, больше похожим на взаимодействие с человеком. Однако я подозреваю, что промптинг в какой-то форме все равно может быть полезен даже с $AGI, чтобы указывать задачи и обеспечивать защитные ограждения. В системах $AGI также могут быть особенности и предубеждения, которым промптинг может помочь противодействовать. Поэтому, хотя $AGI, вероятно, потребует гораздо менее сложного промптинга, я не думаю, что это полностью устраняет необходимость в нем. Промптинг может просто принять другую форму, более разговорную и высокоуровневую.

Дайте мне знать, если у вас есть какие-либо другие мысли по поводу этих различных дискуссий! Поднимается много интересных и сложных тем.