Sự phát triển nhanh chóng của Trí tuệ Nhân tạo (AI) đang thay đổi cách vận hành trong mọi mặt từ kinh tế đến xã hội của thế giới. Sự phổ biến của AI trong các lĩnh vực như công nghệ, giao thông vận tải, tài chính, sản xuất đến chăm sóc sức khỏe đã dẫn đến một trăn trở : Liệu Trí tuệ Nhân tạo có đáng tin cậy? Làm thế nào để đảm bảo được độ tin cậy của AI? Theo nghiên cứu của Gartner, AI TRiSM – Độ tin cậy, tính rủi ro, quản lý bảo mật AI là xu hướng công nghệ hàng đầu cho năm 2024 đã cho thấy tính cấp thiết của việc xây dựng lòng tin vào Trí tuệ Nhân tạo (AI).
Cho đến thời điểm hiện tại, vẫn chưa có một quy định chính thức nào được ban hành rộng rãi nhằm chắc chắn rằng tất cả các hoạt động phát triển Trí tuệ Nhân tạo (AI) đều đảm bảo tính tin cậy. Vì vậy, để phần nào hiểu rõ hơn về vấn đề này, chúng ta cần xác định các định nghĩa và quy định liên quan đến độ tin cậy của AI. Bên cạnh việc khám phá “Trí tuệ nhân tạo đáng tin cậy là gì?”, bài viết hôm nay sẽ chia sẻ về các yếu tố chính, tầm quan trọng cũng như các chiến lược để xây dựng lòng tin vào các ứng dụng AI.
Đọc thêm: 8 xu hướng công nghệ dẫn đầu năm 2024
Trí tuệ Nhân tạo đáng tin cậy là gì?
Trí tuệ nhân tạo đáng tin cậy liên quan đến việc phát triển và triển khai các hệ thống Trí tuệ nhân tạo (AI) minh bạch và an toàn. Qúa trình cần tuân thủ các nguyên tắc liên quan đến tính công bằng, trách nhiệm giải trình, tính trung thực, quyền riêng tư và an toàn trong các ứng dụng và quy trình ra quyết định của AI. Những nguyên tắc nền tảng là cơ sở để đảm bảo AI được sử dụng một cách có trách nhiệm và hạn chế những rủi ro tiềm ẩn về bảo mật và đạo đức. Gần đây, sự bùng nổ của Generative AI trong việc tạo ra các nội dung dạng chữ, hình ảnh, video đã đặt ra những thách thức trong việc kiểm soát thông tin giả và giảm thiểu thiên kiến trong quá trình tạo nên tác phẩm.
Các yếu tố trong hệ thống Trí tuệ nhân tạo đáng tin cậy
Mặc dù khái niệm về trí tuệ nhân tạo đáng tin cậy đã xuất hiện từ khá lâu, nhưng các cuộc thảo luận xung quanh chủ đề này lại đang nhận được nhiều sự chú ý hơn trong thời gian gần đây khi AI bùng nổ. Vào năm 2019, Uỷ ban Châu Âu là một trong những nhà tiên phong khi đã công bố bản “Ethics Guidelines for Trustworthy AI“. Một đóng góp đáng chú ý cho chủ đề này là “Trustworthy AI Framework” của Deloitte. Hãy cùng phân tích các yếu tố quan trọng trong một khung xây dựng nên hệ thống trí tuệ nhân tạo đáng tin cậy.
Quyền riêng tư và tính tuân thủ
Hệ thống AI cần tôn trọng các tiêu chuẩn quyền riêng tư của người dùng và bảo vệ dữ liệu nhạy cảm. Các cách thức để bảo vệ quyền riêng tư có thể kể đến như ẩn danh hóa dữ liệu, mã hóa và kiểm soát truy cập nên được triển khai để bảo mật dữ liệu người dùng.
Tính minh bạch
Hệ thống AI phải minh bạch trong quá trình vận hành, điều đó đồng nghĩa với việc các quyết định và quá trình đưa ra kết quả cần cụ thể để người dùng và các bên liên quan đều có thể nắm được. Trong quá trình này, có thể sử dụng kỹ thuật AI giải thích (XAI – explainable AI) để chỉ ra rõ được lí do đưa ra quyết định, nhằm tăng cường tính minh bạch.
Trách nhiệm giải trình
Các mô hình AI cần chịu trách nhiệm về hành động và quyết định của hệ thống. Vấn đề này liên quan đến cơ chế xác định trách nhiệm của AI trong quá trình tạo ra các sản phẩm/dịch vụ. Từ đó, khi vấn đề phát sinh xảy ra, có thể căn cứ các bên chịu trách nhiệm giải quyết mọi hậu quả xảy ra trong quá trình sử dụng AI.
Công bằng và hạn chế thiên kiến
Việc kiểm soát các thiên kiến trong thuật toán AI và bộ dữ liệu là vô cùng quan trọng để đảm bảo tính công bằng và toàn diện. Các phương pháp như: rà soát và phát hiện thiên kiến, tăng cường nguồn dữ liệu đa dạng và điều chỉnh thuật toán phù hợp có thể hạn chế các thiên kiến và thúc đẩy tính công bằng trong kết quả.
Độ tin cậy và ổn định
Hệ thống AI cần hoạt động dựa trên các điều kiện cụ thể và nguồn dữ liệu đầu vào chất lượng để tạo dựng niềm tin nơi người dùng. Một hệ thống trí tuệ đáng tin cậy và ổn định sẽ có khả năng chống lại các cuộc tấn công, thao túng độc hại và các tình huống không lường trước. Các quy trình kiểm tra và xác nhận độ tin cậy giúp xác định lỗ hổng bảo mật, từ đó đảm bảo tính bảo mật cho ứng dụng AI.
An toàn và Bảo mật
Điều quan trọng đối với các nhà phát triển là xây dựng các phần mềm và dịch vụ AI gắn liền với các yếu tố an toàn và bảo mật để ngăn chặn các tác động tiêu cực với người dùng và xã hội. Điều này liên quan đến việc xác định các rủi ro và lỗ hổng tiềm ẩn nhằm chuẩn bị các biện pháp phòng chống để giảm thiểu hệ quả.
Cân nhắc về giá trị đạo đức
AI đáng tin cậy cần tuân theo các nguyên tắc đạo đức của cá nhân và xã hội. Điều này cần được theo dõi trong tất cả các bước thực hiện và phát triển AI, từ thu thập dữ liệu, đào tạo mô hình đến triển khai và giám sát. Các nguyên tắc trong khuôn khổ đạo đức có thể giúp các nhà phát triển và tổ chức lường trước các tình huống khó khăn liên quan đến các giá trị đạo đức trong ngành AI.
Kết hợp nhân sự
Việc kết hợp các cơ chế giám sát của con người vào hệ thống AI là điều cần thiết để tránh sai sót và đảm bảo tính chuẩn mực đạo đức và giá trị xã hội. Khi có sự theo dõi và kiểm tra của con người trong quá trình sẽ hạn chế các quyết định thiếu căn cứ hay vi phạm chuẩn mực mà AI chưa thể phân biệt được.
Dựa vào các yếu tố cần thiết trên, các nhà phát triển và tổ chức có thể xây dựng các chiến lược phù hợp để phát triển các hệ thống trí tuệ nhân tạo đáng tin cậy và an toàn.
Tác động tích cực của hệ thống AI đáng tin cậy
Trước sự áp dụng rộng rãi của AI trong nhiều lĩnh vực, các cơ quan chính phủ gặp khó khăn trong việc kiểm soát chặt chẽ độ tin cậy của hệ thống AI. Một trong những nguyên nhân của hiện trạng này là do việc thiếu các chính sách rõ ràng để xác minh tính an toàn, bảo mật của AI, trong khi những sản phẩm, dịch vụ liên quan đến AI có tác động trực tiếp lên cuộc sống con người.
Hãy thử tưởng tượng khi một quốc gia sử dụng AI để ngăn chặn các video giả mạo tại các cuộc bầu cử, nhưng ứng dụng AI đó lại chưa có độ tin cậy thì liệu những nỗ lực đó có tăng được tính minh bạch và công bằng của cuộc bầu cử hay không? Câu hỏi trong trường hợp trên cũng cho thấy rằng tác động của hệ thống trí tuệ nhân tạo đáng tin cậy không hề nhỏ, và điều này cũng đã đặt ra một nhiệm vụ cấp bách để các bên liên quan tích cực có những động thái hành động cụ thể để tăng cường độ tin cậy của AI.
Giảm thiểu rủi ro
AI không đáng tin cậy có thể dẫn đến những hậu quả tiêu cực nghiêm trọng. Sự thiên vị trong các thuật toán AI có thể dẫn đến một quy trình tuyển dụng không công bằng hay đưa ra kết luận thiếu căn cứ. Từ đó, các lỗ hổng bảo mật có thể khiến các hệ thống AI dễ bị thao túng và gây ra thiệt hại về tài chính, sức khỏe. Trí tuệ nhân tạo đáng tin cậy giúp giảm thiểu những rủi ro này và thúc đẩy việc sử dụng AI có trách nhiệm hơn.
Xây dựng niềm tin
Để tận dụng được tối đa tiềm năng của AI, việc có được lòng tin từ người dùng là điều cần thiết. Trí tuệ nhân tạo đáng tin cậy giúp cho người dùng trở nên cởi mở và có cái nhìn tích cực hơn với việc áp dụng AI. Qua đó, khuyến khích con người tăng cường hợp tác với AI thay vì những nỗi lo lắng thường trực.
Tuân thủ mặt đạo đức
Khi khả năng của AI tiến bộ, các cân nhắc về giá trị đạo đức ngày càng trở nên quan trọng. Các nguyên tắc của hệ thống trí tuệ nhân tạo đáng tin cậy giúp quá trình phát triển AI tôn trọng các giá trị xã hội cũng như thúc đẩy mục đích nhân văn.
Các cách hiệu quả để xây dựng hệ thống AI đáng tin cậy
Việc phát triển hệ thống trí tuệ nhân tạo đáng tin cậy đòi hỏi một cách tiếp cận đa chiều với sự kết hợp của nhiều bên liên quan:
Nguồn dữ liệu và cách thu thập minh bạch
Nguồn dữ liệu phải được cấp phép bản quyền và có sự chấp thuận của các bên tham gia trong quá trình thu thập và lưu trữ. Quá trình thu thập và đào tạo dữ liệu cho AI cũng phải tránh các thiên kiến.
Hệ thống kết hợp nhân sự (Human-in-the-loop – HITL)
Hệ thống HITL cho phép con người và AI cùng nhau làm việc, đạt được kết quả tốt hơn. Các nhà nghiên cứu và phát triển cần chú trọng các thuật toán có tính công bằng, minh bạch và có logic. Trong đó, các phương pháp như Fairness-aware Machine Learning và Explainable AI (XAI) cũng được cân nhắc trong quá trình này. Bằng việc kết hợp sự sáng tạo của con người và tiềm năng của công nghệ, chúng ta có thể đánh giá các thuật toán AI một cách đa chiều và tăng tính khách quan cho hệ thống.
Các công cụ hỗ trợ phát triển trí tuệ nhân tạo đáng tin cậy
Bước quan trọng đầu tiên là xác minh độ uy tín của các công cụ trước khi đánh giá bằng việc lựa chọn các nhà cung cấp uy tín như Google, Microsoft… Các công cụ hỗ trợ được thiết kế nhằm cung cấp các hướng dẫn và bộ khung kỹ thuật cho phép nhà phát triển và người dùng đảm bảo hệ thống trí tuệ nhân tạo đáng tin cậy tuân theo một bộ tiêu chuẩn nhất định. Dưới đây là một số công cụ phổ biến có thể tham khảo:
Assessment List for Trustworthy AI (ALTAI) – European Commission
Trusted Data and Artificial Intelligence Systems (AIS) for Financial Services – IEEE SA
Tools for Trustworthy AI – OECD
Explainable AI Service – Google Cloud
Fairlearn – Microsoft
Các tiêu chuẩn nhất quán cho việc phát triển AI
Để xác định độ tin cậy của AI, chúng ta cần thiết lập một tiêu chuẩn chung cho quá trình phát triển AI, bao gồm các số liệu về chất lượng, an toàn và đạo đức. Tiêu chuẩn này nên dựa trên các hướng dẫn cụ thể của từng ngành để đánh giá tác động của AI đối với từng cá nhân và tổ chức. Từ đó, chúng ta sẽ có khả năng kiểm soát một cách chặt chẽ việc ứng dụng AI mạnh mẽ như hiện nay.
Xây dựng niềm tin vào Trí tuệ Nhân tạo trong tương lai
Sự phát triển của AI vẫn đang diễn ra liên tục, vì vậy khó có thể dự đoán được đầy đủ các tác động tích cực và tiêu cực của nó tới con người. Quan trọng hơn hết là chúng ta cần nhanh chóng áp dụng các nguyên tắc bảo mật trước khi những tác động mạnh mẽ của AI diễn ra. Có như vậy, chúng ta mới có thể khai thác được những tiềm năng của Trí tuệ nhân tạo đồng thời tránh được những rủi ro khi thúc đẩy chiến lược đổi mới có trách nhiệm của các doanh nghiệp. Cho đến khi bộ quy chuẩn về Trí tuệ Nhân tạo đáng tin cậy được ban hành và áp dụng rộng rãi, tất cả cá nhân và tổ chức đều cần nhận thức về vấn đề này. Làm được điều đó, công nghệ sẽ trở thành một công cụ hữu ích và an toàn thay vì là nỗi bận tâm thường trực của chúng ta.
