12/01/2024
Непростий текст про штучний інтелект, але, щоб бути в темі - треба розбиратися. Взяла на сторінці https://www.facebook.com/victor.osika
Билл Гейтс взял интервью у Альтмана себе в подкаст Unconfuse Me:
OpenAI
- Билл: Я думаю люди бы удивились насколько вы малы. Сэм: Да, всего 500 чел. И мы не молодежь а-ля 24 года, а по 30-40-50 лет людям. Компании становятся старше, я еще в YC заметил что средний возраст best фаундеров подрос
- Билл: А опыт YC помог? Сэм: Да, но мы все сделали против YC - 4.5 г. пилили продукт, не общались с юзерами итп. Я НЕ рекомендую это большинству стартапов, но мы нарушили массу YC правил
- В тч VC не поддержали бы так много лет вести рисеч без какой-либо продуктизации. Билл: А Satya Nadella хорошо вас потом пристыковал к большому Microsoft
- Билл: Как команда в ходе переворота? Оч оптимистично, продуктивно, проехали..
Как открыли + планы
- Билл: Я был оч скептичен, и в шоке от ChatGPT. А мы поймем, как Шекспир появляется перемножением? Сэм: Да, sure, это же не живой мозг сканировать, где все движется. Билл: В теч 5 лет разберемся точно. Сэм: ChatGPT1 сделали, не зная че как, отмасштабировали -> это было открытие “снизу”, empirical.
- Планы на 2 г: Мультимодальность. Речь, люди хотят видео. Reasoning ability (пока в оч узких доменах). Надежность. Кастомизация, персонализация (все хотят свой набор assumptions)
- Со времен Gpt3 3 г. назад мы снизили косты в 40 раз. Думаю, снизим цену intelligence почти к 0. По факту это цена энергии. Мы уже даем массу value за те ежемесячные $20
Регуляции AI
- Представим модель в 100 тыс - 1 млн раз больше compute, чем GPT4 - нужно что-то типа мирового агентства по атомной энергии, глобальная институция. Билл: В мирном атоме да - весь мир сотрудничает, а вот в оружии наоборот.. Как убедить людей замедлиться? Сэм: Никак. Для топ5 GPU кластеров в мире нужно согласие послать инспекторов на аудит моделей
Value
- Билл: Я думаю AI поможет нам в hard problems. В тч в поляризации общества - она разрушает демократию.
- Сэм: 100%. Мы не просто ускоряем работу разрабов в 3x, мы создаем qualitatively new возможности. Агенты будут усложняться, “напиши мне программу, попутно задавая мне вопросы”. А там может вообще до new physics дойдем
- Кодинг, healthcare, edu = видим в них max potential
- Глюки is a feature, not a bug, тк порождает новое
Работы
- Билл: А не слишком быстро изменение мира? Сэм: Думаю ОК - уже были смены эпох, где все работы менялись за пару поколений. Хотя да, чуть пугает требуемая скорость адаптации социума
- Билл: Вы начали с white collar jobs, а роботы? Сэм: А так мы же начали с них, но забили тк решили что важнее сперва cognition/intelligence. А так я super optimistic. Вернемся обратно к physicality позже. Билл: Это может поменять blue collar рынок труда
Страхи
- Билл: Меня пугает AI, скорее AGI, а не AI в руках bad guys - найдутся good guys с сопоставимыми ресурсами. Меня пугает “Билл, иди играй - я засолвила полиомиелит, а ты slow thinker…” - это philosophically confusing thing
- Сэм: Есть много сложных психо-аспектов работы над tech. Может это последняя hard problem над которой работаю..
- Билл: Мое сознание так сильно построено вокруг идеи scarcity/нехватки, что мне тяжело даже думать о поколении, которое вырастет без нее: а как они философски выстроят общество? Сэм: Считаю, у нас никогда не будет нехватки hard problems, и будут новые пути обрести fulfilment. Да у нас нет альтернатив - value AI слишком велико, надо идти туда
Прочее
- Сэм: Дай совет? Билл: Есть много видов таланта. В начале карьеры я считал важнее всего IQ, а только позже понял, что важнее разнообразие скиллов в команде
- Сэм: А еще большинство людей mis-calibrated on risk и не уходят с удобных работ. Чтобы в конце жизни пожалеть, что не сделали стартап или не осмелились пойти в AI researchers? Вот true risk..
- Билл: Какой апп на телефоне юзаешь чаще всего? Сэм: Slack. Билл: Ого. А я Outlook, олдскул email guy )
- Билл: А музыку взял как я просил? Сэм: New Four Seasons - Vivaldi Recomposed by Max Richter. Я не работаю в тишине - не могу. Тихо слушаю музыку без слов
Victor Osyka