Đọc bù: blog & tiếng nói định hình ngành

Bài nền tảng phân biệt “workflow” (các bước LLM nối cứng, có kiểm soát) với “agent” (LLM tự quyết luồng + dùng tool trong vòng lặp). Thông điệp lõi: đừng dùng agent khi workflow là đủ — agent chỉ đáng khi tác vụ cần sự linh hoạt và quyết định theo ngữ cảnh mà bạn không thể liệt kê trước. Liệt kê 5 khối lắp ghép (prompt chaining, routing, parallelization, orchestrator-workers, evaluator-optimizer) và nguyên tắc “đơn giản trước, chỉ thêm phức tạp khi đo được lợi ích”.

Context engineering (nuôi dưỡng tập token tối ưu suốt cả phiên) rộng hơn prompt engineering (viết chỉ dẫn cho một lượt). Vì “context rot” — model mất độ chính xác khi cửa sổ phình to — nên phải cắt gọt liên tục. 4 kỹ thuật: (1) Compaction — tóm tắt & khởi tạo lại context khi gần đầy, giữ quyết định kiến trúc/bug chưa xong, bỏ output tool thừa; (2) Note-taking — agent ghi bộ nhớ ngoài (NOTES.md, to-do) rồi nạp lại khi cần; (3) Sub-agent — agent phụ làm việc trên context sạch, trả về bản tóm 1.000–2.000 token; (4) Just-in-time retrieval — giữ con trỏ nhẹ (path, query) và nạp dữ liệu lúc chạy thay vì tải sẵn hết.

Kiến trúc orchestrator–worker: một “lead agent” chia câu hỏi nghiên cứu thành nhiều nhánh, giao cho các sub-agent chạy song song với context riêng, rồi tổng hợp. Anthropic báo cáo hệ multi-agent vượt single-agent lớn ở tác vụ tìm-kiếm-rộng, đổi lại tốn token gấp nhiều lần — nên chỉ đáng với bài toán “bề rộng” (duyệt nhiều nguồn) chứ không phải mọi việc. Nhiều bài học kỹ thuật: dạy lead agent cách giao việc rõ ràng, để sub-agent tự quyết số lần gọi tool, và đánh giá bằng end-state chứ không bám từng bước.

Cách thiết kế tool cho agent: tên/tham số rõ, ít chồng lấn chức năng (tập tool mơ hồ khiến agent phân vân), trả về token gọn và “giàu tín hiệu”. Mẹo hay: dùng chính Claude để tự viết & tinh chỉnh mô tả tool bằng cách cho nó thử dùng rồi sửa chỗ nó hiểu sai.

Giới thiệu Agent Skills — gói chỉ dẫn + script + tài nguyên đóng lại thành một “kỹ năng” agent nạp khi cần (chính là cơ chế skill bạn đang dùng trong Claude Code). Nêu nguyên tắc viết skill gọn, nạp đúng lúc, tránh phình context.

Bất đối xứng xác minh: nhiều việc kiểm tra dễ hơn nhiều so với giải (Sudoku, làm web, toán thi có đáp án) — nhưng có việc ngược lại (bài luận: viết dễ, fact-check khó) hoặc cân bằng (cộng số 900 chữ số). Định luật của người xác minh: “độ dễ huấn luyện AI làm một việc tỉ lệ với độ dễ xác minh việc đó.” 5 tính chất khiến một việc “train được”: (1) có chân lý khách quan, (2) xác minh nhanh, (3) xác minh mở rộng được theo lô, (4) nhiễu thấp (điểm kiểm-tra bám sát chất lượng thật), (5) phần thưởng liên tục (xếp hạng được các mức lời giải). Gần như mọi benchmark AI thành công đều thỏa (1)–(4).

Suy ngẫm: khi AI giỏi dần ở mọi việc “verify được”, phần còn lại cho con người dịch về đâu — đặt mục tiêu, chọn cái gì đáng làm, chịu trách nhiệm, và những việc mà bản thân “chất lượng” khó đo. Cặp đôi tự nhiên với bài verification ở trên (mặt kia của “jagged edge of intelligence”).

Luận điểm: điểm kỳ dị (singularity) sẽ đến êm và dần chứ không phải một cú nổ — năng lực dồn theo cấp số nhân nhưng đời sống thích nghi từng bước nên cảm giác “bình thường mới”. Bàn chi phí trí tuệ tiến về gần chi phí điện, và vòng lặp AI-giúp-làm-AI tăng tốc.

Tầm nhìn “trí tuệ dồi dào như điện”: nếu chi phí một đơn vị trí tuệ đủ rẻ, nhu cầu gần như vô hạn, nên nút thắt dịch sang năng lượng & hạ tầng tính toán. Đặt nền cho các cam kết xây cluster khổng lồ của OpenAI.

Karpathy tiếp mạch “dạy từ số 0”: một GPT tối giản, đọc được từng dòng, để hiểu bản chất kiến trúc thay vì thư viện đồ sộ. Kiểu bài “xây lại để hiểu” đặc trưng của anh — vàng cho người muốn nắm cơ chế.

Bengio ra mắt LawZero — tổ chức phi lợi nhuận theo đuổi “Scientist AI”: AI được thiết kế để hiểu & giải thích thay vì hành động theo mục tiêu, như một lớp an toàn giám sát các agent tự chủ. Đây là đặt cược nghiên cứu an toàn của một trong ba “bố già” deep learning.

Cho Claude tự làm nghiên cứu an toàn: tự đọc tài liệu, đề xuất phương pháp + dataset, train model, thử cải thiện — có một agent giám sát chặn “ăn gian” (vd distill thẳng alignment của Claude vào model đích). Đo bằng % khoảng-cách-an-toàn thu hẹp trên 10 loại lỗi. Kết quả mạnh: đóng 26–96% khoảng cách; riêng “deception” đạt 85% (so với 20% của người trong 8 giờ); phương pháp scale lên model to gấp 4,7×; Sonnet 5 căn chỉnh một checkpoint Opus 4.8 sớm trong 60 giờ, ~2.000 ví dụ — hiệu quả ~15.000× so với quy trình sản xuất. Tác giả tự nhận hạn chế: các lỗi đo được còn “hẹp” so với thực tế, và cải thiện có thể không bền sau khi train thêm việc khác.

Frontier Red Team soi các hệ nhiều-agent: những lỗi mới nổi khi agent tương tác (lan truyền lỗi/ý tưởng xấu, đồng thuận sai, khó truy trách nhiệm) — nối mạch “Mind Viruses” trong digest 17/08.

Đo “bản đồ compute” qua trích dẫn chip trong paper + cụm GPU triển khai. Vài số đáng nhớ: NVIDIA chiếm 91% trích dẫn (44.715); H100/H200 +111%, Blackwell ×4,5 nhưng còn nhỏ; Apple thành accelerator ngoài-NVIDIA được trích nhiều nhất (998). Cụm Hopper đã triển khai 460.904 GPU (gấp >11× đội A100); xAI Colossus 200.000 GPU, Meta GenAI 49.152. Grace-Blackwell mới deploy ~5%, còn 80% “mới công bố”. Hợp đồng compute: OpenAI 26 GW (10 NVIDIA + 16 non-NVIDIA), Anthropic 6 GW. Chốt: “CUDA vẫn thống trị paper, nhưng frontier lab đang đa dạng hoá nhà cung cấp”, và nút thắt thật đã chuyển từ số GPU sang điện, làm mát, cấp phép, interconnect.