Hôm nay, tôi muốn nhấn mạnh một số podcast đáng chú ý. Đầu tiên, Acquired đã phỏng vấn hai đồng sáng lập của Sierra: Bret Taylor (hiện là Chủ tịch Hội đồng quản trị OpenAI và cựu đồng CEO của Salesforce) và Clay Bavor (người đã làm việc tại Google hơn 18 năm). Họ có góc nhìn thú vị; cả hai đều xây dựng sự nghiệp tại các công ty công nghệ lớn định hình thế hệ và rõ ràng đang rất thành công, song họ chọn rời bỏ để dấn thân vào lĩnh vực AI.
Tôi nghĩ đoạn văn dưới đây đặc biệt thú vị để làm rõ bối cảnh xoay chuyển của Meta sang xây dựng đội ngũ Siêu trí tuệ nhỏ nhưng mật độ tài năng cao:
“…the primary constraint I don’t think is capital. It starts with the people and there’s a small set of people who know how to architect these models, do the pre-training runs, do post-training RL runs and and so that would be the the starting place and then to to your point the capital outlay for building a a data center that can train these multi- trillion parameter count models is just enormous and you have to amortize the cost of the people, amortize the cost of the capital to build out the data centers and then do that, to your point, in a pretty short period of time in order to make the math work. And so I do think there there will be a very small number of these frontier models and research labs producing them. You know, they will optimize all the way down to the memory, the chips, power delivery, and build this highly vertically integrated stack to get as much value out of the model as quickly as possible and at at lowest cost possible. And by the way though, just with all the press around the talent, it’s still a rounding error compared to the infrastructure. So I think it’s worth keeping that in mind.”
(Tạm dịch: “…ràng buộc chính tôi nghĩ không phải là vốn. Nó bắt đầu từ con người và chỉ có một nhóm nhỏ người biết cách thiết kế các mô hình này, thực hiện các lần huấn luyện trước, thực hiện các lần huấn luyện RL sau và vậy nên đó sẽ là điểm khởi đầu và sau đó, như bạn nói, chi phí vốn để xây dựng một trung tâm dữ liệu có thể huấn luyện các mô hình có số lượng tham số hàng nghìn tỷ là khổng lồ và bạn phải phân bổ chi phí cho con người, phân bổ chi phí vốn để xây dựng trung tâm dữ liệu và sau đó làm điều đó, như bạn nói, trong một khoảng thời gian khá ngắn để làm cho toán học hoạt động. Và vậy tôi nghĩ sẽ có một số lượng rất nhỏ các mô hình biên giới và phòng thí nghiệm nghiên cứu sản xuất chúng. Bạn biết đấy, chúng sẽ tối ưu hóa hết mức xuống bộ nhớ, chip, cung cấp điện, và xây dựng ngăn xếp tích hợp dọc cao để lấy giá trị nhiều nhất từ mô hình nhanh nhất có thể và với chi phí thấp nhất có thể. Và nhân tiện, dù với tất cả báo chí xung quanh tài năng, nó vẫn là lỗi làm tròn so với cơ sở hạ tầng. Vậy tôi nghĩ đáng để giữ điều đó trong đầu.”)
Quan điểm của họ về tích hợp dọc cũng là lời nhắc nhở tại sao Google có thể đang dẫn đầu xa so với nơi mà tất cả đối thủ cạnh tranh trong cuộc đua AI hiện tại muốn đạt được trong vài năm tới. Dylan Patel từ Semianalysis đã đưa ra quan điểm trong podcast của a16z rằng nếu mô hình biên giới tập trung chỉ vào một số ít nhà phát triển mô hình mà các mô hình mã nguồn mở không thể khá khớp, thì silicon tùy chỉnh sẽ hoạt động tốt hơn. Trong kịch bản này, sự tích hợp dọc sâu của Google vào ngăn xếp AI qua TPUs sẽ trở nên rõ nét hơn nhiều.
Một phần khác mà tôi nghĩ thú vị trong phỏng vấn Acquired là quan điểm của họ về cách tạo đòn bẩy qua AI:
…we always like to say the way we think about an AI first company is we’re building a machine to produce happy customers…And I think that’s important because it’s like if something comes off the assembly line of machine that’s malformed, you don’t just fix that thing. You say what part of the machine broke to produce the malformed item.
And so just as it relates to, for example software engineering, we have this philosophy like when cursor, which is the most popular co-pilot for software engineers to like write code and now having some sort of more agentic flavors of it, if it produces incorrect code, our philosophy is don’t fix the code, fix the context that cursor had that produced the bad code. And I think that’s a big difference when you’re trying to make like a company driven by AI. So essentially, if you just fix the code, you’re not adding leverage. If you go back and say, what context did this coding AI not have that had it had it, it would have produced the correct code. So I don’t want to pretend we’re perfect here, but that’s the way we think about it. I really like thinking of our business as a machine.
(Tạm dịch: “…chúng tôi luôn thích nói cách chúng tôi nghĩ về một công ty AI đầu tiên là chúng tôi đang xây dựng một cỗ máy để sản xuất khách hàng hài lòng…Và tôi nghĩ điều đó quan trọng vì giống như nếu cái gì đó ra khỏi dây chuyền lắp ráp của cỗ máy mà bị dị dạng, bạn không chỉ sửa cái đó. Bạn nói phần nào của cỗ máy hỏng để sản xuất vật dị dạng.
Và vậy liên quan đến, ví dụ kỹ thuật phần mềm, chúng tôi có triết lý này như khi cursor, là co-pilot phổ biến nhất cho kỹ sư phần mềm để viết mã và giờ có một số hương vị agentic hơn, nếu nó sản xuất mã sai, triết lý của chúng tôi là đừng sửa mã, sửa ngữ cảnh mà cursor có dẫn đến mã xấu. Và tôi nghĩ đó là sự khác biệt lớn khi bạn cố làm một công ty được dẫn dắt bởi AI. Vậy cơ bản, nếu bạn chỉ sửa mã, bạn không thêm đòn bẩy. Nếu bạn quay lại và nói, ngữ cảnh nào mà AI mã hóa này không có mà nếu có, nó sẽ sản xuất mã đúng. Vậy tôi không muốn giả vờ chúng tôi hoàn hảo ở đây, nhưng đó là cách chúng tôi nghĩ. Tôi thực sự thích nghĩ về kinh doanh của chúng tôi như một cỗ máy.”)
Về lý thuyết, bất kỳ công ty nào cũng nên có thể “thêm đòn bẩy” qua AI, nhưng với kinh nghiệm ở các công ty lớn, họ cũng biết AI sẽ đòi hỏi thay đổi văn hóa mà nhiều công ty đương nhiệm sẽ khó vượt qua. Tôi biết họ được khuyến khích cao để chỉ ra điểm yếu của các công ty đương nhiệm, nhưng quan điểm đó có giá trị. Tôi nghĩ sẽ hữu ích nếu có các nhà sáng lập hoặc đội ngũ quản lý dẫn dắt công ty với tầm ảnh hưởng lớn để họ có thể lan tỏa sự linh hoạt để nhúng AI sâu vào quy trình tổ chức. Từ podcast:
“…we’re a new company. So it’s just so easy to do these things at a small scale. I observe just like having everyone in our company, you know, you didn’t use chat GPT deep research before your sales meeting? Are you kidding me? Like that’s a best practice that everyone should do. Imagine doing that with, you know, 10,000 salespeople, you know, to roll that out. So I think about it a lot and then just having the vantage point of having come from larger I just have a ton of empathy for for lack of a better word like the cultural change management of absorbing these technologies into larger organizations. So we’re trying to be the poster child of it and then because we are a partner to so many larger firms. I have a lot of empathy for the challenges of adopting technology into cultures. I think it’s really really hard and I have a ton of respect for leaders who are able to do t at a larger scale.”
(Tạm dịch: “…chúng tôi là công ty mới. Vậy rất dễ làm những điều này ở quy mô nhỏ. Tôi quan sát giống như có mọi người trong công ty chúng tôi, bạn biết đấy, bạn không dùng chat GPT nghiên cứu sâu trước cuộc họp bán hàng? Bạn đùa à? Như đó là thực hành tốt nhất mà mọi người nên làm. Hãy tưởng tượng làm điều đó với, bạn biết, 10.000 nhân viên bán hàng, bạn biết, để triển khai. Vậy tôi nghĩ về nó nhiều và sau đó chỉ có góc nhìn từ lớn hơn tôi chỉ có rất nhiều sự đồng cảm cho thiếu từ tốt hơn như quản lý thay đổi văn hóa để hấp thụ các công nghệ này vào tổ chức lớn hơn. Vậy chúng tôi cố gắng là tấm gương của nó và sau đó vì chúng tôi là đối tác của nhiều công ty lớn. Tôi có rất nhiều sự đồng cảm cho thách thức áp dụng công nghệ vào văn hóa. Tôi nghĩ rất rất khó và tôi có rất nhiều tôn trọng cho lãnh đạo có thể làm điều đó ở quy mô lớn hơn.”)
Một thách thức lớn trong cuộc đua AI, tuy nhiên, là khó khăn trong việc thu hút giá trị tương xứng bởi các nhà phát triển mô hình. Dylan Patel đã đưa ra quan điểm này trong podcast a16z:
I think the main thing is that AI is already generating more value than the spend. It’s that the value capture is broken, right? Like I legitimately believe OpenAI is not even capturing 10% of the value they’ve created in the world already. And I think the same applies to, you know, Anthropic and Cursor and and whoever else you’re looking at. I think the value capture is really broken.
Even like internally, I think like what we’ve been able to do with like four devs with in terms of like automation, like our our spend on Gemini API is absurdly low and yet we go through every single permit and regulatory filing around every single data center with AI and we we take satellite photos of every data center and we’re able to label our data set and then recognize what generators people are using, what cooling towers and the construction progress and substation. All this stuff is like automated and it’s only possible because of GenAI but and we do it with very few developers and then the value capture that I’m able to generate by selling this data by consulting with it is so high but the companies making it (the model)…they get nothing out of it
(Tạm dịch: Tôi nghĩ điều chính là AI đã tạo ra giá trị nhiều hơn chi phí. Đó là việc thu hút giá trị bị hỏng, đúng không? Như tôi thực sự tin OpenAI thậm chí không thu hút 10% giá trị họ đã tạo ra trên thế giới. Và tôi nghĩ điều tương tự áp dụng cho, bạn biết, Anthropic và Cursor và bất kỳ ai khác bạn đang nhìn. Tôi nghĩ việc thu hút giá trị thực sự hỏng.
Ngay cả nội bộ, tôi nghĩ như những gì chúng tôi có thể làm với bốn dev về tự động hóa, như chi phí của chúng tôi trên Gemini API thấp một cách vô lý và tuy nhiên chúng tôi xử lý mọi giấy phép và hồ sơ quy định xung quanh mọi trung tâm dữ liệu với AI và chúng tôi chụp ảnh vệ tinh của mọi trung tâm dữ liệu và chúng tôi có thể gắn nhãn bộ dữ liệu và sau đó nhận diện máy phát nào người ta dùng, tháp làm mát nào và tiến độ xây dựng và trạm biến áp. Tất cả điều này như tự động và chỉ có thể nhờ GenAI nhưng và chúng tôi làm với rất ít lập trình viên và sau đó việc thu hút giá trị mà tôi có thể tạo bằng bán dữ liệu này bằng tư vấn với nó rất cao nhưng các công ty làm nó (mô hình)…họ không nhận được gì từ nó”)
Tôi nghĩ nhiều nhà phát triển mô hình SOTA đang dần tỉnh ngộ với thực tế này. The Information đã chỉ ra hôm qua cách giá token dường như ổn định trong những tháng gần đây so với vài năm qua. Mô hình đăng ký chỉ không phù hợp trong nhiều trường hợp sử dụng. Ví dụ, bài đăng Reddit này chỉ ra cách một dev cơ bản tiêu thụ giá trị token 50.000 USD trong khi trả 200 USD cho đăng ký hàng tháng. Đây đương nhiên là vấn đề mô hình kinh doanh. Có các mô hình kinh doanh thu hút giá trị hoàn hảo mà không rò rỉ nhiều. Một quỹ đầu cơ có lẽ là đỉnh cao của mô hình kinh doanh để thu hút giá trị hoàn hảo (và nhiều lần, vượt quá giá trị nó tạo ra). Mặt khác, kinh doanh đăng ký bản tin thường khá kém trong việc thu hút giá trị nó tạo (nếu nó thực sự tạo giá trị). Đương nhiên, sự khác biệt chính là xây dựng bản tin không tốn nhiều trong khi chúng ta đang chi hàng chục tỷ để phát triển mô hình SOTA.
Có thể dễ nghĩ rằng sẽ không khó thu hút giá trị theo thời gian. Dù tôi không nghi ngờ rằng các nhà phát triển mô hình SOTA sẽ làm tốt hơn, có danh sách dài các công nghệ cách mạng gặp khó trong việc thu hút giá trị. Hãy để tôi chia sẻ ví dụ cá nhân. Gần đây, tôi chọn đăng ký “ChatGPT Pro” (200 USD/tháng) chỉ để xem có sự khác biệt đáng kể giữa Plus và Pro không. Một thành viên gia đình tôi yêu cầu chạy một truy vấn có ý nghĩa quan trọng cho sự nghiệp của cô ấy. Sau khi tôi gửi phản hồi của ChatGPT Pro, cô ấy rất mừng và nói rằng có lẽ phải tốn 1.000 USD để lấy thông tin như vậy nếu không có ChatGPT. Ban đầu, tôi nghĩ thậm chí 200 USD/tháng có thể coi là giá trị tuyệt vời nếu nó giải quyết ít nhất một vấn đề như vậy mỗi vài tháng. Vấn đề duy nhất là khi tôi chạy cùng truy vấn trên Gemini 2.5 Pro mà tôi trả 20 USD/tháng, nó cũng đưa ra phản hồi rất, rất tốt. ChatGPT Pro tốt hơn đôi chút ở một số chi tiết biên, nhưng giờ tôi bắt đầu cảm thấy 200 USD/tháng không đáng cho cải thiện biên đó. Bạn thấy thách thức ở đây chứ? Thặng dư tiêu dùng qua các mô hình này khá không thể phủ nhận nhưng các mô hình SOTA vẫn cạnh tranh đủ để việc thu hút giá trị có thể chứng minh là thách thức khó khăn hơn nhiều so với những gì các nhà đầu tư lạc quan AI hiện đang đánh giá.
