Bài viết cho biết KPMG xây dựng nền tảng AI tư nhân TaxBot bằng cách kết hợp các mô hình LLM từ nhiều nhà cung cấp và thông tin thuế được lưu trữ rải rác. Hệ thống với prompt 100 trang giúp tăng tốc xử lý tư vấn thuế và cải thiện hiệu quả công việc.
Điểm nổi bật:
- KPMG xây dựng TaxBot với prompt 100 trang mất nhiều tháng
- Thông tin tư vấn thuế được lưu trữ rải rác trên nhiều laptop
- Workbench tích hợp nhiều mô hình LLM từ các nhà cung cấp
- Tăng tốc xử lý tư vấn thuế nhờ tự động hoá và giám sát chuyên nghiệp
- Phát triển TaxBot với prompt 100 trang mất nhiều tháng.
- Thông tin tư vấn thuế được lưu trữ rải rác trên nhiều laptop.
- Workbench tích hợp nhiều mô hình LLM từ các nhà cung cấp cạnh tranh.
Khi các mô hình ngôn ngữ lớn thu hút sự chú ý toàn cầu vào cuối năm 2022, các lãnh đạo kỹ thuật số của KPMG đã nhanh chóng nhận ra cả cơ hội và rủi ro. Giám đốc kỹ thuật số John Munnelly cho biết thử nghiệm đầu tiên với ChatGPT đem lại các kết quả "đáng sợ", khi phát hiện thông tin tài chính nhạy cảm không được bảo mật trên máy chủ nội bộ. Sự cố này đã khiến công ty tạm dừng các thử nghiệm, hạn chế truy cập vào các công cụ AI công khai và đánh giá lại các nguy cơ từ việc triển khai không kiểm soát.
Xây dựng nền tảng AI riêng tư
KPMG sau đó đã bắt đầu xây dựng một môi trường đóng cho công việc AI, được hỗ trợ qua các giấy phép phần mềm cho phép truy cập vào OpenAI và Microsoft. Bước đi này mở ra cơ hội thiết kế ứng dụng trong khuôn khổ an toàn, dẫn đến việc ra đời của nền tảng KPMG Workbench. Hệ thống này kết hợp công nghệ truy xuất-augmentation, sử dụng nhiều lựa chọn LLM từ OpenAI, Google, Microsoft, Anthropic và Meta.
Trong suốt năm 2023, công ty đã đầu tư đáng kể vào việc đào tạo nhân viên cách viết prompt hiệu quả và tương tác với hệ thống AI writer. Đến năm 2024, nhánh KPMG tại Úc đã khởi động dự án xây dựng các đại lý chuyên dụng, bao gồm TaxBot – công cụ soạn thảo tư vấn thuế. Quá trình phát triển bắt đầu bằng việc thu thập ý kiến tư vấn thuế được lưu trữ rải rác trên các laptop và kết hợp với bộ luật thuế của Úc, được tích hợp vào mô hình RAG để tạo ra các bản thảo tự động.
Việc tạo dựng TaxBot không hề đơn giản. Theo Munnelly, quá trình soạn thảo prompt dài 100 trang mất nhiều tháng của đội ngũ chuyên trách để cuối cùng tích hợp vào Workbench. Hệ thống hiện tại yêu cầu đầu vào từ người dùng, nhận hướng dẫn từ chuyên gia, và tạo ra tài liệu tư vấn thuế dày 25 trang cho khách hàng xem xét. Munnelly khẳng định, công cụ này đã rút ngắn thời gian thực hiện các tác vụ từ hai tuần chỉ còn một ngày, đặc biệt hữu ích cho các giao dịch thời gian nhạy cảm như sáp nhập. Tuy nhiên, chỉ các đại lý thuế được cấp phép mới được vận hành TaxBot, vì kết quả không có giám sát chuyên nghiệp chưa phù hợp với người dùng phổ thông.
Bên cạnh việc nâng cao hiệu suất, KPMG cho biết việc áp dụng các đại lý AI đã góp phần cải thiện sự hài lòng của nhân viên nhờ giảm bớt công việc lặp lại. Thêm vào đó, một số khách hàng đã bày tỏ mong muốn sở hữu các giải pháp tương tự, mở ra nguồn doanh thu mới dù công ty vẫn thừa nhận khó khăn trong việc đo lường lợi ích chính xác.
Bài viết này có thể tạo động lực mạnh mẽ cho các doanh nghiệp và tổ chức tại Việt Nam khi bối cảnh chuyển đổi số đang trở nên cấp bách. Việc áp dụng công nghệ AI tiên tiến như TaxBot không chỉ giúp tối ưu hóa quy trình làm việc mà còn nâng cao chất lượng dịch vụ tư vấn, đặc biệt trong các lĩnh vực tài chính và thuế. Các doanh nghiệp Việt Nam có thể học hỏi từ kinh nghiệm của KPMG trong việc tích hợp thông tin và đào tạo nhân lực, từ đó mở ra những hướng đi mới trong việc ứng dụng công nghệ. Sự kết hợp thông minh giữa con người và AI nhằm tăng hiệu suất công việc, giảm thiểu những tác vụ lặp đi lặp lại cũng có thể tạo ra lợi thế cạnh tranh trong bối cảnh toàn cầu hoá.
