Hành trình trong việc phát triển máy thông minh đã dẫn chúng ta đến con đường của sự khám phá, ngạc nhiên, lo lắng và kinh ngạc. Ngay cả khi còn nhiều điều chưa được khám phá, chúng ta hiểu rằng nhiệm vụ tìm kiếm Trí Tuệ Nhân Tạo an toàn sẽ thay đổi cách chúng ta thiết kế, phát triển và đưa các sản phẩm thông minh ra thị trường. An toàn trong Trí Tuệ Nhân Tạo không chỉ đòi hỏi bảo vệ khỏi kẻ tấn công bên ngoài như trong an ninh mạng; chúng ta cần đảm bảo hành vi của Trí Tuệ Nhân Tạo là an toàn. Sự phát triển của Trí Tuệ Nhân Tạo trong tương lai sẽ tập trung vào an toàn và quản lý rủi ro trong mọi phần của quá trình phát triển.
An toàn trong các tiêu chuẩn và nguyên tắc của trí tuệ nhân tạo
Một trong những yêu cầu quan trọng trong kỹ thuật an toàn Trí Tuệ Nhân Tạo là có các hướng dẫn và tiêu chuẩn thực tế có thể tiếp cận rộng rãi để phát triển Trí Tuệ Nhân Tạo. Mặc dù một số tổ chức và liên minh đang nỗ lực để xây dựng những nguồn lực này, nhưng chúng vẫn còn xa lạ từ sự đồng thuận (ở đây một lần nữa, vấn đề về sự liên kết giá trị lại nảy sinh) và thậm chí còn xa lạ hơn trong việc cung cấp hướng dẫn kỹ thuật cụ thể. Trong khi đó, các ngành yêu cầu sự an toàn như hàng không vũ trụ và sản xuất y tế cung cấp các mô hình quản lý rủi ro hữu ích có thể đáp ứng nhanh chóng nhu cầu an toàn Trí Tuệ Nhân Tạo và có thể làm nền tảng cho các tiêu chuẩn và khung làm việc cuối cùng. Đặc biệt, phương pháp Delphi có thể được sử dụng để tổ chức trí tuệ và đánh giá của các chuyên gia, đánh giá rủi ro của các loại hệ thống Trí Tuệ Nhân Tạo khác nhau cũng như kết quả của các tình huống khởi đầu cứng và mềm.
An toàn trong quá trình tư duy và thiết kế
Một nhu cầu liên quan là tích hợp an toàn một cách tích cực vào tất cả các lĩnh vực của quá trình thiết kế kỹ thuật, bắt đầu từ quá trình tư duy thiết kế và kéo dài đến quá trình đưa sản phẩm ra thị trường. Đối mặt với sự thực tế: Điều này có nghĩa là sẽ có sự thay đổi đối với nhiều nhóm phát triển. Nhìn vào internet. Nhìn vào các hệ thống nhúng. Thực tế là hầu hết các ngành công nghiệp không dành nhiều nguồn lực đáng kể cho an toàn cho đến sau khi sản phẩm bắt đầu thành công. Hậu quả tiềm ẩn của việc để an toàn không kiểm soát trong các hệ thống thông minh là rất quan trọng vì có thể không khả thi để tích hợp an toàn sau sự kiện.
An toàn trong nhu cầu của người dùng
Phát triển Trí Tuệ Nhân Tạo an toàn sẽ đòi hỏi các kỹ sư phải vượt ra khỏi các trường hợp sử dụng ở mức bề ngoài và thực sự hiểu biết giá trị và sở thích của người dùng. Chúng ta đã quen với việc lấy trường hợp sử dụng và phản hồi người dùng như là một sự thực tế; tuy nhiên, vấn đề liên kết giá trị đã thảo luận ở trên cho chúng ta biết rằng chúng ta cần phải đào sâu hơn để hiểu rõ nhu cầu thực tế. Nếu ví dụ, chúng ta hỏi một học sinh tại sao cô ấy đến trường, cô ấy có thể nói với bạn rằng cô ấy muốn có kiến thức và nghiên cứu một lĩnh vực quan tâm. Tuy nhiên, các nghiên cứu cho thấy rằng những lý do thực tế hoặc bổ sung nằm ở chỗ khác: Đạt được chứng chỉ, được sự chấp thuận của đồng học và tăng tiềm năng kiếm lợi nhuận. Nếu như làm kỹ sư, chúng ta chỉ nhìn vào nhu cầu và phản hồi của người dùng ở mức bề ngoài khi phát triển các sản phẩm thông minh, chúng ta có thể phát triển những sản phẩm không thực sự đáp ứng được nhu cầu của người dùng… và dẫn đến thất bại của Trí Tuệ Nhân Tạo.
An toàn trong đánh giá sự nghiệp
Ở mọi giai đoạn của quy trình, an toàn của sản phẩm và trí tuệ của nó (bộ nhớ, tốc độ xử lý, v.v.) phải được xem xét và giải quyết. Một hacker chỉ cần tìm ra một điểm yếu trong không gian vô hạn này, nhưng một Trí Tuệ Nhân Tạo có thể khai thác trí tuệ theo cách chúng ta không thể dự đoán hoặc thậm chí không thể tưởng tượng. Các lỗ hổng tiềm ẩn của sản phẩm là gì? Có những cách sử dụng tiềm ẩn nào? Làm thế nào từng tính năng có thể bị lạc quyên? Mọi dữ liệu có an toàn và bảo mật không? Làm thế nào chúng ta biết được? Sản phẩm có chứa nhiều thông tin hơn là cần thiết không? Làm thế nào điều này có thể bị lạm dụng? Làm thế nào để bảo vệ nó?
Kết
Phát triển Trí Tuệ Nhân Tạo an toàn sẽ mang lại những thay đổi đối với quy trình làm việc, cách suy nghĩ và ưu tiên của chúng ta. Việc có các khung làm việc và tiêu chuẩn phát triển Trí Tuệ Nhân Tạo sẽ là một bước lớn để xây dựng Trí Tuệ Nhân Tạo an toàn. Trong khi đợi chờ, việc mượn những thực hành từ ngành hàng không và sản xuất thiết bị y tế sẽ hữu ích, cũng như thêm an toàn vào tất cả các khía cạnh của quá trình phát triển sản phẩm của bạn.
