Trong bài phát biểu khai mạc mang đậm hơi hướng tương lai, với hơn 100 robot trên sân khấu, Giám đốc điều hành NVIDIA, Jensen Huang, đã mở đầu hội nghị thường niên của công ty bằng cách hé lộ một cái nhìn thoáng qua về quá khứ của ngành điện toán.

Với sự tham dự của hơn 30.000 nhà phát triển, nhà nghiên cứu và lãnh đạo doanh nghiệp, Huang đã giới thiệu những tiến bộ mới nhất trong hệ sinh thái NVIDIA bằng một video về cách IBM tiên phong trong lĩnh vực điện toán doanh nghiệp và xử lý dữ liệu sáu thập kỷ trước.

Khởi đầu là System/360, nền tảng hiện đại đầu tiên dành cho điện toán đa năng, tiếp theo là SEQUEL (ngày nay được biết đến nhiều hơn với tên gọi SQL) mà Huang mô tả là “một trong những ngôn ngữ chuyên dụng quan trọng nhất mọi thời đại”.

Hiện nay, NVIDIA đang hợp tác với IBM để tăng tốc điện toán cho vô số khách hàng, trong đó có Nestlé, công ty đã được giới thiệu trên sân khấu như một ví dụ về những gì có thể đạt được khi kết hợp dữ liệu doanh nghiệp kịp thời với trí tuệ được tăng tốc bằng GPU.

Nestlé đưa ra hàng triệu quyết định về chuỗi cung ứng mỗi ngày trong hoạt động của mình tại hơn 180 quốc gia. Với hệ thống watsonx.data được IBM tăng tốc chạy trên GPU của NVIDIA, Nestlé hiện có thể chạy cùng một khối lượng công việc nhanh hơn gấp năm lần, với chi phí thấp hơn 83%.

“Trọng tâm của chúng tôi hiện nay là biến khả năng này thành tác động kinh doanh hữu hình, tiếp tục cải thiện tốc độ ra quyết định trong các lĩnh vực như sản xuất và kho bãi, đồng thời mở rộng các khả năng này trên toàn doanh nghiệp,” ông Chris Wright, Giám đốc Thông tin và Kỹ thuật số của Nestlé, cho biết trong thông cáo báo chí.

Tăng tốc điện toán chỉ là một trong những cách mà NVIDIA và IBM đang hợp tác để cung cấp cho doanh nghiệp nền tảng dữ liệu, cơ sở hạ tầng và chuyên môn cần thiết để đưa AI từ giai đoạn thử nghiệm sang sản xuất. Hệ sinh thái là chủ đề xuyên suốt bài phát biểu quan trọng kéo dài hai giờ của Huang.

Nhìn về phía trước, Huang đã phác họa bức tranh về trí tuệ nhân tạo (AI) đang định hình lại mọi ngành công nghiệp, không phải thông qua các mô hình riêng lẻ, mà thông qua các nhà máy AI hoàn chỉnh tích hợp: năng lượng, chip bán dẫn, mạng lưới, phần mềm và robot.

Ngay khi bạn nghĩ mình đã đạt đến giới hạn với OpenClaw và phần còn lại của thế giới AI, một bước ngoặt mới xuất hiện: Meta đã mua lại Moltbook, mạng xã hội của OpenClaw nơi các agent giao lưu, trao đổi gợi ý và thử nghiệm các giao thức.

Trong tập mới nhất của chương trình Mixture of Experts, nhà khoa học nghiên cứu chính của IBM, Kaoutar El Maghraoui, thừa nhận rằng động thái này thoạt nhìn có vẻ “kỳ lạ”. Nhưng nó cũng có những ý nghĩa kỹ thuật và chiến lược sâu sắc hơn. Bà nói: “Tôi nghĩ Meta không chỉ mua một nơi để các con bot tụ tập. Họ đang mua lớp cơ sở hạ tầng cho cách thức hoạt động thực sự của internet trong tương lai.”

Đối với Meta, Moltbook cung cấp môi trường thiết lập sẵn, hay còn gọi là “đĩa petri” để quan sát quá trình học tăng cường đa tác nhân trong môi trường thực tế”, El Maghraoui cho biết. Cụ thể, nó cho phép các nhà khoa học nghiên cứu các mô hình, chủ đề và hành vi mới nổi trên nhiều agent khác nhau từ các công ty khác nhau khi chúng tương tác với nhau.

Ngoài môi trường ảo, Moltbook còn mang đến một “kho dữ liệu tổng hợp quý giá”, El Maghraoui cho biết, đặc biệt liên quan đến cách các agent (và những người đóng vai agent) tương tác với nhau. Dữ liệu này, một số được tạo ra bởi các agent, một số bởi con người đóng vai trò là agent, cung cấp manh mối về cách các agent hành xử trong không gian chung.

Sandi Besen, kỹ sư AI tại IBM, cho biết trên podcast rằng những phát hiện từ Moltbook cũng có thể hữu ích trong môi trường doanh nghiệp. "Chúng tôi đang tiến hành rất nhiều thử nghiệm để hiểu cách agent có thể giao tiếp hiệu quả với nhau, cho dù đó là trong phạm vi doanh nghiệp hay trong cộng đồng nơi chúng có quyền truy cập mạng", bà nói.

Hơn nữa, khi mọi người ngày càng dựa vào agent để mua sắm, so sánh giá và tìm kiếm sản phẩm, việc học cách giao tiếp với họ đã trở thành ưu tiên hàng đầu đối với các nhà tiếp thị và quảng cáo. “Moltbook có thể là nơi thử nghiệm cho Meta về cách quảng cáo nhắm đến thuật toán thay vì con người”, El Maghraoui nói.

Từ trước đến nay, câu chuyện về trí tuệ nhân tạo thường xuyên được nhắc đi nhắc lại: làm cho các mô hình trở nên lớn hơn và thông minh hơn.

Giờ đây, một ý tưởng khác đang dần được chấp nhận: sức mạnh thực sự không đến từ một mô hình xuất sắc duy nhất, mà từ sự phối hợp nhịp nhàng của nhiều mô hình, mỗi mô hình làm tốt nhất công việc của mình.

Perplexity Computer ra mắt gần đây, là biểu hiện mới nhất của ý tưởng đó. Thay vì giao một nhiệm vụ phức tạp cho một mô hình AI duy nhất và hy vọng mọi việc sẽ ổn, hệ thống chia nhỏ công việc thành nhiều phần và gửi từng phần đến một tác nhân AI chuyên biệt, một chương trình phần mềm được thiết kế để tự thực hiện hành động và đưa ra quyết định.

Các tác nhân này hoạt động đồng thời, thường là trên nền tảng đám mây, chứ không phải trên máy tính của người dùng, và báo cáo lại khi hoàn thành.

Lý do khiến nhiều nhà nghiên cứu và công ty theo đuổi ý tưởng này là do hai giới hạn khó khắc phục mà ngay cả những mô hình AI mạnh nhất cũng gặp phải.

- Đầu tiên là tốc độ: một mô hình đơn lẻ sẽ xử lý một nhiệm vụ dài và phức tạp từng bước một, giống như một bác sĩ phẫu thuật đơn độc thực hiện mọi vai trò trong phòng mổ cùng một lúc.

 - Thứ hai là bộ nhớ: mỗi mô hình AI đều có một cửa sổ ngữ cảnh , một giới hạn về lượng thông tin mà nó có thể lưu giữ trong bộ nhớ làm việc cùng một lúc. Nếu đẩy mô hình vượt quá giới hạn đó, nó bắt đầu mất phương hướng, quên các chỉ dẫn trước đó và mắc phải những lỗi ngày càng trầm trọng.

“Nếu được phối hợp đúng cách và nhiệm vụ có thể được thực hiện song song, N tác nhân có thể hoàn thành nhiệm vụ nhanh hơn N lần so với một tác nhân đơn lẻ,” Eugene Vinitsky, trợ lý giáo sư tại Đại học New York, cho biết trong một cuộc phỏng vấn với IBM Think.

Phân bổ công việc cho nhiều tác nhân cũng giúp dễ dàng phát hiện lỗi hơn. Niranjan Balasubramanian, trợ lý giáo sư Khoa học Máy tính tại Đại học Stony Brook, cho biết trong một cuộc phỏng vấn với IBM Think rằng thiết kế của Perplexity Computer tuân theo nguyên tắc quen thuộc từ kỹ thuật phần mềm: chia các hệ thống phức tạp thành các phần mô-đun nhỏ hơn, dễ xây dựng, kiểm thử và khắc phục sự cố hơn.

Trong vài năm gần đây, khi xây dựng ứng dụng AI, chúng ta thường đứng trước hai lựa chọn: dùng trực tiếp một mô hình ngôn ngữ lớn (LLM) hay thiết kế hẳn hệ thống AI agent phức tạp hơn. Câu hỏi tưởng đơn giản này lại quyết định mức độ hiệu quả, chi phí và độ ổn định của giải pháp AI trong thực tế.

Ví dụ đời thường trong quán cà phê. Khi bạn chỉ nói: “Cho mình một đồ uống ấm, không quá ngọt, hợp ngày mưa”, cách tiếp cận giống agent là barista hỏi hàng loạt câu chi tiết: muốn sữa không, size gì, trà hay cà phê, có đường hay không…

Ngược lại, cách tiếp cận kiểu LLM là barista hiểu ý ngay và đề xuất: “Có vẻ bạn thích một ly latte nóng, thơm và hợp trời mưa.” Thông điệp ở đây rất rõ: đôi khi chúng ta xây quá nhiều bước, quá nhiều “agent” trong khi một lời nhắc (prompt) cho LLM là đủ.

LLM – như GPT-4 – được mô tả là công cụ lý tưởng cho các tác vụ một bước: trả lời câu hỏi, viết email, tóm tắt tài liệu, dịch văn bản, tạo ý tưởng. Bạn đưa vào yêu cầu, mô hình xử lý và trả về kết quả trong một lần, không cần lập kế hoạch hay gọi thêm công cụ bên ngoài. LLM tỏa sáng khi nhiệm vụ đơn giản, không đòi hỏi nhiều tương tác với hệ thống khác và tốc độ là ưu tiên hàng đầu.

Ngược lại, AI agent là “trợ lý mini” có khả năng lập kế hoạch, suy luận nhiều bước, tự động tương tác với công cụ, API, cơ sở dữ liệu hay dịch vụ ngoài. Agent thường dùng LLM ở bên dưới, nhưng được bổ sung thêm các lớp logic để quyết định: cần làm gì tiếp theo, nên gọi công cụ nào, kết quả trả về ra sao. Vì vậy, agent phù hợp với các quy trình đa bước, cần mức độ tự chủ cao, giống như “quản lý dự án” biết tự chia nhỏ và thực thi công việc.

Khi bạn cần viết một bài blog đơn giản: dùng LLM là đủ. Nghiên cứu đối thủ, tổng hợp dữ liệu rồi tự động gửi email báo cáo: nên dùng agent. Tạo một đoạn code nhỏ: LLM xử lý tốt. Nhưng gỡ lỗi, kiểm thử rồi đẩy code lên GitHub với nhiều bước và công cụ liên quan: đó là bài toán lý tưởng cho agent.

Trong tài chính, bạn có thể hỏi LLM về xu hướng hiệu suất trong một tập dữ liệu, LLM sẽ tóm tắt thông tin cho bạn. Nhưng nếu quy trình là: tự lấy dữ liệu, chạy mô hình, tạo biểu đồ phù hợp với dữ liệu mới rồi gửi email cho lãnh đạo, bạn đã bước sang vùng của agent – nơi cần điều phối nhiều bước và nhiều công cụ.

Tương tự với xử lý sự cố IT: hỏi “mã lỗi này nghĩa là gì?” LLM trả lời rất nhanh, nhưng phát hiện lỗi, tìm nguyên nhân, sửa lỗi, thông báo cho đội vận hành và tạo báo cáo cuối cùng lại là chuỗi tác vụ dành cho agent.

Mỗi lần bạn định xây hệ thống AI phức tạp, hãy tự hỏi: “Mình có thực sự cần agent không, hay một LLM đơn giản đã đủ?” Sự đơn giản đúng lúc không chỉ tiết kiệm chi phí và thời gian, mà giúp bạn triển khai thần tốc những giải pháp AI gọn nhẹ, dễ bảo trì và dễ mở rộng về sau.

Theo một chuyên gia IBM, năm nay các công ty sẽ ngừng ám ảnh về tốc độ xây dựng các AI Agent và bắt đầu giải quyết vấn đề khó khăn hơn là vận hành chúng trong môi trường thực tế.

Sự thay đổi đó, theo Maryam Ashoori, Phó Chủ tịch Sản phẩm và Kỹ thuật của IBM Watsonx, phản ánh việc thị trường đang chuyển từ giai đoạn thử nghiệm sang giai đoạn vận hành thực tế. Trong cuộc phỏng vấn với IBM Think, Ashoori cho biết sau nhiều chu kỳ của sự hào hứng, thất vọng và tăng tốc, các doanh nghiệp hiện đang đối mặt với những gì xảy ra khi các Agent được kết nối với hệ thống đang hoạt động.

Theo Ashoori, các dự án AI tạo sinh ban đầu mang lại giá trị khi các công ty tập trung vào nhiệm vụ cụ thể như tóm tắt, phân loại, trả lời câu hỏi và tạo mã. Khi thiếu những giới hạn đó, bà cho biết, các dự án thử nghiệm chỉ tạo ra những hiểu biết sâu sắc chứ không mang lại tác động kinh doanh. Nhưng cục diện đã thay đổi vào năm 2024, khi các mô hình có khả năng gọi API và thực hiện chuỗi hành động, dẫn đến việc triển khai ồ ạt các AI Agent trên toàn doanh nghiệp.

Đến cuối năm 2025, nhiều tổ chức đã vận hành hàng chục, thậm chí hàng trăm Agent – thường được xây dựng bởi các nhóm khác nhau, sử dụng các công cụ khác nhau và hoạt động dựa trên các giả định khác nhau. Thông thường, các nhóm tập trung vào tốc độ hơn cấu trúc. “Bạn có thể xây dựng một AI Agent trong chưa đầy năm phút,” Ashoori nói. “Vấn đề là những gì xảy ra sau đó.”

Khi các Agent hành động thay vì phản hồi, những lỗi quen thuộc trong mô hình sẽ biến thành rủi ro vận hành. Ảo giác không còn là câu trả lời tồi mà là một lệnh gọi hệ thống sai, một lỗ hổng dữ liệu hoặc một thất bại kinh doanh. Do đó, các doanh nghiệp đang chuyển trọng tâm từ thời điểm xây dựng sang thời điểm vận hành.

Sự thay đổi đó khiến việc quan sát trở nên không thể tránh khỏi. Các Agent thực hiện chuỗi quyết định, mỗi quyết định liên quan đến lựa chọn mô hình và thường là một công cụ hoặc nguồn dữ liệu. Khi sự cố xảy ra, các công ty cần theo dõi từng bước.

“Trọng tâm đã chuyển dịch,” bà nói. “Hiện tại, trọng tâm là làm thế nào để vận hành các AI Agent một cách tự tin và trên quy mô lớn.”

Đối với hầu hết những người trong giới công nghệ, sự ra mắt của ChatGPT năm 2022 là bước ngoặt quan trọng. Không phải vì các mô hình ngôn ngữ quy mô lớn (LLM) là mới, mà vì OpenAI đã tích hợp chúng vào một giao diện thân thiện, giúp trí tuệ nhân tạo trở nên dễ tiếp cận với đại chúng.

Hiện tại, Claude của Anthropic đang đạt đến bước ngoặt tương tự - chủ yếu nhờ hai sản phẩm. Claude Code hoạt động như trợ lý lập trình tự động, trong khi Claude Cowork mang đến các khả năng tương tự cho người dùng không chuyên về kỹ thuật để thực hiện các tác vụ thông thường.

Kể từ khi ra mắt, tổng số người dùng web của Claude trong tháng 12 đã tăng gấp đôi so với cùng kỳ năm ngoái, theo công ty nghiên cứu thị trường Similarweb, trong khi Sensor Tower nhận thấy số lượng người truy cập máy tính để bàn duy nhất hàng ngày của Claude trên toàn cầu đã tăng 12% so với tháng trước.

Việc áp dụng nhanh chóng đó làm nổi bật câu hỏi lớn đặt ra là liệu các công ty phần mềm truyền thống có thể phải đối mặt với mối đe dọa hiện hữu từ các AI Agent có khả năng tự động hóa việc lập trình đòi hỏi kiến thức chuyên môn hay không? Nhưng cũng giống màn ra mắt ấn tượng của ChatGPT, câu chuyện thực sự nằm ở sự thay đổi trong cách thức phần mềm được tạo ra và sử dụng.

Gabe Goodhart, Kiến trúc sư trưởng về Đổi mới Mở AI tại IBM, đã nhớ lại ngày ra mắt của ChatGPT. Goodhart nói: “Hình thức của nó đã thay đổi và đột nhiên nó vượt qua được ranh giới kỳ lạ, trở thành thứ mà bạn có thể tin tưởng. Tôi nghĩ đó là điều chúng ta đang thấy xảy ra với Claude Code.”

Theo kỹ sư Chris Hay của IBM, tính dễ sử dụng và độ tin cậy là những yếu tố quan trọng giúp Claude chuyển hướng từ giới lập trình viên sang người dùng phổ thông. Với sự ra mắt của Claude Cowork, người dùng không còn cần đến thiết bị đầu cuối chuyên dụng mà có thể truy cập Claude ngay trên máy tính để bàn.

"Niềm tin vào chất lượng sản phẩm đầu ra và sự an toàn của quy trình là hai yếu tố kết hợp lại để tạo nên thành công này," Goodhart nói.

Nhấn mạnh vào sự an toàn và tin cậy cũng là nền tảng của mối quan hệ hợp tác mà Anthropic và IBM đã công bố năm ngoái, nhằm mục đích đẩy nhanh quá trình áp dụng AI trong doanh nghiệp, đồng thời xây dựng tính bảo mật và quản trị vào vòng đời phát triển phần mềm.

“Các doanh nghiệp đang tìm kiếm AI mà họ thực sự có thể tin tưởng để quản lý mã nguồn, dữ liệu và hoạt động hàng ngày”, Mike Krieger, Giám đốc Sản phẩm của Anthropic, cho biết trong thông báo. Ông nói thêm, mối quan hệ hợp tác này sẽ hướng đến việc “xây dựng các tiêu chuẩn mở giúp các AI Agent thực sự hữu ích trong môi trường kinh doanh”.

DevOps - sự hợp tác giữa bộ phận phát triển và bộ phận vận hành trong quá trình phát triển phần mềm không chỉ thay đổi quy trình, đó là sự chuyển đổi văn hóa.

Ngày xửa ngày xưa, bộ phận phát triển phần mềm (dev) là dev, và bộ phận vận hành (ops) là ops, hai bộ phận này chẳng bao giờ giao nhau, như mặt trăng với mặt trời.

“Trong lịch sử, chúng hoạt động trong thế giới riêng biệt,” Ash Minhas, Kiến trúc sư CNTT của IBM, chia sẻ với IBM Think trong cuộc phỏng vấn. Phát triển phần mềm nghĩa là lập trình, còn CNTT về cơ bản nghĩa là quản trị hệ thống. “Trong quy trình phân phối phần mềm truyền thống,” Minhas nói, “đưa một ứng dụng vào sản xuất bao gồm phối hợp cơ sở hạ tầng, phần cứng, đánh giá bảo mật, mạng lưới và hậu cần triển khai”.

Kết quả là gì?

Theo Minhas, đó là những hệ thống nguyên khối đáng tin cậy nhưng chậm, rất chậm. Thay đổi mã nguồn rất khó khăn mà không làm mất ổn định toàn bộ hệ thống. Do đó, "mô hình này đã trở thành nút thắt cổ chai", Minhas nói.

Rồi đến cuối những năm 2000, DevOps xuất hiện. Như tên gọi ghép gợi ý, DevOps kết hợp hài hòa giữa hai quy trình trước đây bị phân mảnh, cho phép các nhóm “xây dựng, kiểm thử, triển khai và vận hành phần mềm như một dòng chảy liên tục chứ không phải một chuỗi các bước chuyển giao riêng lẻ.

Minhas cho biết, công nghệ chính giúp DevOps trở thành hiện thực là điện toán đám mây. “Những tiến bộ trong điện toán đám mây đã tách rời phần mềm khỏi phần cứng vật lý. Mạng lưới trở nên nhanh và đáng tin cậy đến mức gần như chìm vào nền và các thực tiễn bảo mật ngày càng được chuẩn hóa”, ông nói.

Trước thời kỳ DevOps, công việc được vận hành theo phương pháp “thác nước ” – diễn ra theo một hướng từ trên xuống dưới, với phần mềm ở trên cùng.

DevOps về cơ bản là ngược lại: phương pháp phát triển phần mềm linh hoạt (agile) áp dụng cách tiếp cận lặp đi lặp lại đối với chu kỳ phát triển phần mềm. Với DevOps (và triết lý lập trình linh hoạt nói chung) các nhiệm vụ được thực hiện theo cả hai chiều.

Kết quả là gì?

Một chu kỳ phát triển phần mềm an toàn hơn, nhanh hơn và rẻ hơn. Vận hành không đơn thuần duy trì hoạt động sau khi phát hành; nó đã được tích hợp vào chính quy trình phát triển.

Anthropic ra mắt Claude Cowork tuần này càng làm nổi bật cuộc cạnh tranh giành quyền kiểm soát giao diện giữa con người và phần mềm. Ứng dụng mới dành cho người dùng gói Claude Max trên iOS, cho phép sử dụng Claude Code trong giao diện trò chuyện.

Một số chuyên gia tin rằng trải nghiệm người dùng được đơn giản hóa này không đơn thuần về năng suất mà là chiến lược nhằm kiểm soát hoàn toàn cách mọi người tương tác với công nghệ. “Đây là cuộc chiến giành thị phần và trải nghiệm người dùng,” Volkmar Uhlig, Phó Chủ tịch kiêm Giám đốc Công nghệ Nền tảng Dữ liệu & Kỹ thuật tại IBM, cho biết trong tập mới nhất của chương trình Mixture of Experts.

Khi Claude Code ra mắt tháng 2 năm ngoái với mục tiêu cung cấp cho “các lập trình viên, những người thích mày mò, những người xây dựng” khả năng làm việc trực tiếp với Claude AI trong mã nguồn.

Trong khi đó, Cowork hướng đến tất cả mọi người. Như thông báo chính thức của Anthropic đã nêu, “[Cowork] có thể, ví dụ, sắp xếp lại các tệp tải xuống của bạn bằng cách phân loại và đổi tên từng tệp, tạo bảng tính mới với danh sách chi phí từ một đống ảnh chụp màn hình, hoặc tạo bản nháp đầu tiên của một báo cáo từ các ghi chú rải rác của bạn”.

Ông nói thêm, ông hình dung một tương lai nơi màn hình điện thoại của bạn về cơ bản chỉ có một thanh nhập liệu (LLM) với một ô trống để nhập prompt. “Tôi nghĩ chúng ta đang trên con đường mà 10.000 biểu tượng trên iPhone của bạn sẽ được thay thế bằng một thanh nhập liệu”.

Prompt engineering đang trở thành “ngôn ngữ lập trình mới” trong kỷ nguyên AI tạo sinh (generative AI), nơi con người giao tiếp với mô hình bằng ngôn ngữ tự nhiên thay vì code thuần túy. Kỹ năng thiết kế câu lệnh (prompt) đúng và đủ giúp doanh nghiệp và cá nhân khai thác tối đa sức mạnh của các mô hình lớn như GPT‑4, IBM Granite, Claude, Bard, DALL·E, Stable Diffusion và nhiều hệ thống genAI khác.

Trong bối cảnh AI len vào mọi quy trình – từ chăm sóc khách hàng, phân tích dữ liệu đến sáng tạo nội dung – người biết “nói chuyện” hiệu quả với AI sẽ tạo ra lợi thế cạnh tranh rõ rệt.

Các công cụ AI không hoàn toàn tự động; chúng cần sự can thiệp của con người để hoạt động tối ưu. Đó là lý do tại sao các chuyên gia LLM gọi kỹ thuật prompt là "ngôn ngữ lập trình mới".

Từ prompt đến “context”: bước nhảy từ căn bản đến chuyên sâu

Viết prompt chỉ là bước khởi đầu; điều quan trọng hơn là thiết kế bối cảnh (context) để mô hình hiểu đúng và phản hồi sát nhu cầu. Bối cảnh ở đây bao gồm: mục tiêu người dùng, lịch sử hội thoại, dữ liệu tham chiếu, cấu trúc đầu vào và cả đặc tính của từng mô hình AI khác nhau.

Nhờ các kỹ thuật như:

• Retrieval-Augmented Generation (RAG) để mô hình “nhìn” được dữ liệu riêng của doanh nghiệp.
• Tóm tắt (summarization) giúp rút gọn văn bản dài thành thông tin cốt lõi để AI xử lý hiệu quả hơn.
• Đầu vào có cấu trúc (ví dụ JSON) để AI tạo ra đầu ra nhất quán, dễ tích hợp vào hệ thống và workflow tự động.

…người làm prompt không chỉ viết câu hỏi, mà đang thiết kế toàn bộ trải nghiệm tương tác với AI.

Các nhánh kỹ năng cốt lõi trong prompt engineering

IBM chia hành trình học prompt engineering thành nhiều mảng cụ thể, phù hợp cho người mới tập tành lẫn lập trình viên đã thành thạo phát triển giải pháp AI.

1. Tổng quan và nền tảng

Phần nền tảng giúp bạn hiểu:

• Prompt engineering liên quan thế nào đến NLP và mô hình ngôn ngữ lớn (LLM).
• Vì sao “prompt chất lượng cao” giúp AI hiểu đúng, giảm lỗi, tiết kiệm chi phí và thời gian xử lý.

Đây là bước căn bản trước khi tiến tới các kỹ thuật nâng cao.

2. Agentic prompting – biến AI thành “tác nhân” chủ động

Agentic prompting tập trung vào việc biến mô hình AI thành một “agent” có khả năng:

• Tự thực hiện chuỗi hành động nhiều bước thay vì chỉ trả lời một câu hỏi đơn lẻ.
• Ra quyết định, gọi công cụ hoặc dịch vụ khác, và hoàn thành cả workflow phức tạp như một trợ lý tự động.

Cách viết prompt sẽ nhấn mạnh mục tiêu, ràng buộc, tiêu chí đánh giá kết quả và cách AI nên phân rã tác vụ.

3. Example-based prompting – dạy AI bằng ví dụ

Example-based prompting bao gồm:

• Zero-shot: không đưa ví dụ, chỉ mô tả nhiệm vụ thật rõ ràng.
• Few-shot: cung cấp vài ví dụ mẫu để mô hình học cách trả lời theo “mẫu chuẩn” mong muốn.

Việc thêm ví dụ trong prompt giúp AI:

• Hiểu rõ định dạng đầu ra cần thiết.
• Bắt chước phong cách, giọng điệu, cấu trúc nội dung hoặc logic xử lý bạn mong muốn.

4. Multimodal prompting – kết hợp văn bản, hình ảnh và đa phương tiện

Với các mô hình đa phương thức như Granite, Gemini, GPT‑4o, DALL·E…, bạn có thể:

• Đưa vào cả văn bản, hình ảnh và các loại dữ liệu khác trong cùng một prompt.
• Yêu cầu AI mô tả, phân tích, chuyển đổi, hoặc sáng tạo nội dung dựa trên nhiều nguồn thông tin khác nhau.

Điều này mở rộng rất lớn ứng dụng trong marketing, thiết kế, sản xuất nội dung, đào tạo và phân tích dữ liệu.

Bảo mật, tối ưu và tinh chỉnh prompt trong thực tế

Khi AI được đưa vào hệ thống sản xuất, ba chủ đề sau trở nên thiết yếu: bảo mật, tối ưu và tuning prompt.

1. Prompt hacking và bảo mật

Prompt injection và các dạng tấn công “lách luật” có thể khiến mô hình:

• Làm lộ thông tin nhạy cảm trong dữ liệu nội bộ.
• Vượt qua hàng rào bảo vệ, tạo ra nội dung không phù hợp hoặc hành vi sai lệch.

Vì vậy, cần:

• Thiết kế prompt và cơ chế hệ thống để lọc, chặn và chuẩn hóa đầu vào.
• Kết hợp lớp bảo mật, kiểm duyệt và giám sát đầu ra của mô hình.

2. Prompt optimization – tối ưu để vừa nhanh vừa chuẩn

Prompt optimization tập trung vào:

• Điều chỉnh, thử nghiệm, so sánh nhiều phiên bản prompt để nâng chất lượng đầu ra và giảm độ trễ.
• Căn chỉnh hành vi mô hình với mục tiêu cụ thể (ví dụ: trả lời ngắn, dùng ngôn ngữ chuyên ngành, ưu tiên độ chính xác…)

Việc tối ưu có thể đi kèm với điều chỉnh tham số API, tổ chức lại cấu trúc prompt, tách task lớn thành các bước nhỏ.

3. Prompt tuning – đưa prompt lên cấp độ mô hình

Prompt tuning là bước “nâng cấp” so với chỉnh prompt thủ công:

• Thay vì chỉ sửa câu chữ, bạn tinh chỉnh mô hình bằng các prompt đặc biệt cùng tập dữ liệu miền (domain) cụ thể.
• Thích hợp cho các bài toán chuyên sâu: tài chính, y tế, pháp lý, bảo hiểm, sản xuất… nơi ngôn ngữ và quy tắc rất đặc thù.

Kết hợp framework và bộ dữ liệu mở, prompt tuning giúp mô hình trở nên “am hiểu ngành” hơn mà không cần huấn luyện lại từ đầu.

Tài nguyên, công cụ và bước tiếp theo

Bên cạnh phần khái niệm, IBM còn gợi ý nhiều nguồn lực để bạn thực hành và triển khai prompt engineering vào dự án thật.

Một số hướng đi tiêu biểu:

• Bộ bài tập Prompt Engineering với watsonx.ai: giúp bạn thực hành các kỹ thuật khác nhau và “cảm” được tác động của từng kiểu prompt.
• Kho IBM.com Tutorials trên GitHub: chứa nhiều use case thực tế, hướng dẫn từng bước bằng Python, code snippet và workflow có cấu trúc.
• Các giải pháp như IBM watsonx Orchestrate, bộ công cụ AI cho developer và dịch vụ tư vấn AI: hỗ trợ chuyển từ thử nghiệm sang triển khai ở quy mô doanh nghiệp.

Nếu đang bắt đầu xây dựng chatbot, trợ lý nội bộ hay tự động hóa quy trình trong doanh nghiệp, đầu tư nghiêm túc vào prompt engineering – từ viết prompt, thiết kế context, đến tối ưu và tuning – sẽ là nền tảng để hệ thống AI hoạt động ổn định, an toàn và mang lại giá trị lâu dài.

Gần một năm sau khi mô hình R1 hiệu năng cao, chi phí thấp của DeepSeek gây chấn động Thung lũng Silicon và Phố Wall, phòng thí nghiệm AI Trung Quốc này lại chuẩn bị khuấy động ngành công nghiệp AI một lần nữa.

Lần này, DeepSeek phát hành một khung phần mềm mới, giúp việc huấn luyện các mô hình ngôn ngữ quy mô lớn (LLM) hiệu quả hơn, ổn định hơn và có khả năng mở rộng hơn. Quan trọng hơn cả, điều này giúp giảm chi phí huấn luyện trước, mở ra sức mạnh của LLM cho các công ty nhỏ và các nhà phát triển cá nhân.

“Với sự đổi mới này, DeepSeek đang đặt câu hỏi ‘làm thế nào để tối ưu hóa chi phí trong giai đoạn huấn luyện trước?’”, kỹ sư ưu tú Chris Hay của IBM cho biết trong một cuộc phỏng vấn với IBM Think . “Huấn luyện mô hình là phần tốn kém nhất”.

Các nhà nghiên cứu của DeepSeek đã thử nghiệm kiến ​​trúc mới, được gọi là Siêu kết nối ràng buộc đa tạp (Manifold-Constrained Hyper-Connections - mHC), trên các mô hình với 3 tỷ, 9 tỷ và 27 tỷ tham số. Họ nhận thấy các mô hình có thể mở rộng mà không làm tăng đáng kể gánh nặng tính toán hoặc bất ổn định, cả hai thứ thường tăng lên song song với việc mở rộng quy mô.

Thông thường, các phòng thí nghiệm AI tiên tiến dựa vào phương pháp "cưỡng chế" để cải thiện AI, theo lời Kaoutar El Maghraoui, nhà khoa học nghiên cứu chính tại IBM, trong tập mới nhất của podcast Mixture of Experts. Điều đó có nghĩa "thêm nhiều dữ liệu hơn, nhiều sức mạnh tính toán hơn, nhiều tham số hơn", bà nói. Nhưng cách tiếp cận đó "ngày càng kém hiệu quả, chỉ một số ít công ty lớn mới có khả năng chi trả".

El Maghraoui nhấn mạnh kiến ​​trúc mHC của DeepSeek có thể cách mạng hóa việc huấn luyện trước mô hình. “Nó mở rộng quy mô AI một cách thông minh hơn thay vì chỉ làm cho nó lớn hơn,” bà nói. “Đó là một cách thiết kế mô hình thông minh, cũng sẽ hoạt động tốt hơn trên phần cứng”.

El Maghraoui cũng cho biết mHC dễ dàng tích hợp với phần cứng tùy chỉnh của công ty, khiến nó trở thành lựa chọn hấp dẫn tiềm năng cho các doanh nghiệp đang tìm kiếm AI tiết kiệm chi phí.

Trong một bài đăng trên LinkedIn, Pierre-Carl Langlais, đồng sáng lập công ty khởi nghiệp AI Pleias của Pháp, cho rằng ý nghĩa thực sự của bài báo nằm ở việc chứng minh khả năng mở rộng của mHC. Ông viết: "Điểm mạnh thực sự" là khả năng của DeepSeek trong việc tái thiết kế mọi khía cạnh của môi trường huấn luyện. "Đó là điều khiến [DeepSeek] trở thành phòng thí nghiệm tiên phong”.