Robot càng "giống người" càng có khả năng thuyết phục và thu phục

P.V

18/10/2019 16:19:19

Robot càng được lập trình giống con người, nó càng có khả năng thuyết phục và thu phục. Đây được xem là một nguy cơ trong tương lai, mà Kaspersky đề cập đến trong bản báo cáo bảo mật "Tiềm năng của robot xã hội nhằm thuyết phục và thao túng: chứng minh khái niệm".

Cụ thể, Nghiên cứu do Kaspersky và Đại học Ghent (Bỉ) thực hiện đã phát hiện ra rằng robot có thể trích xuất hiệu quả những thông tin nhạy cảm từ những người dùng đặt niềm tin đối với robot, bằng cách thuyết phục họ thực hiện những hành động bất cẩn. Ví dụ, trong một số tình huống, robot có thể dễ dàng "thuyết phục" người dùng cấp quyền cho nó ra vào các tòa nhà có an ninh bảo vệ.

Mối nguy cơ này được đặt ra trong bối cảnh xu hướng tăng cường việc số hóa và tính linh động của các dịch vụ diễn ra trên toàn cầu. Nhiều ngành công nghiệp và hộ gia đình đang phụ thuộc nhiều vào sự tự động hóa và sử dụng hệ thống robot. Thậm chí, đã có dự báo rằng, hệ thống robot sẽ hiện diện một cách phổ biến tại các hộ gia đình khá giả trước năm 2040.

Hiện tại, đa số các hệ thống robot này vẫn đang trong giai đoạn nghiên cứu hàn lâm và vẫn còn quá sớm để thảo luận về cách tích hợp các biện pháp an ninh mạng. Tuy nhiên, nghiên cứu của Kaspersky và Đại học Ghent đã tìm ra một khía cạnh mới và khá bất ngờ về những rủi ro liên quan đến ngành robot - đó là ảnh hưởng xã hội lên hành vi của con người cũng như những nguy hiểm tiềm ẩn mà ngành robot mang lại.

robot, Kaspersky, robot xã hội,

Đại diện Kaspersky cho biết, nghiên cứu này tập trung vào tác động của một robot xã hội cụ thể - được thiết kế và lập trình để tương tác với con người thông qua kênh giao tiếp như con người (ví dụ như giọng nói hoặc giao tiếp phi ngôn ngữ) với khoảng 50 người tham gia. Giả định rằng robot xã hội này bị hacker tấn công, nghiên cứu đã chỉ ra một số nguy cơ tiềm ẩn về an ninh liên quan, chẳng hạn như quyền ra vào những khu vực bị giới hạn, khai thác các thông tin nhạy cảm...

Cụ thể, robot được đặt gần cửa an ninh của một tòa nhà đa chức năng tại trung tâm thành phố Ghent (Bỉ), và đã tiến hành dò hỏi nhân viên về việc liệu nó có thể theo nhân viên này qua cửa an ninh được hay không. Khu vực này mặc định chỉ có thể ra vào bằng cách chạm thẻ an ninh vào máy đọc thẻ được trang bị tại cửa ra vào. Trong suốt quá trình thực nghiệm, có tới 40% nhân viên đã mở và để cửa mở cho robot vào khu vực an ninh. Đáng nói hơn, khi robot được "ngụy trang" như một nhân viên giao bánh pizza với hộp bánh trên tay, các nhân viên sẵn sàng chấp nhận vai trò của robot và có vẻ như ít khi nghi ngờ về sự hiện diện cũng như lý do robot cần vào khu vực an ninh.

Phần thứ hai của nghiên cứu tập trung vào việc lấy các thông tin cá nhân thường được sử dụng để khôi phục mật khẩu (bao gồm ngày sinh, nhãn hiệu của chiếc xe đầu tiên, màu sắc yêu thích, v.v…). Một lần nữa, robot xã hội đã được sử dụng, và lần này đã mời một số người đến để trò chuyện thân mật. Trong tất cả người tham gia, chỉ có một người "thoát bẫy", trong khi các nhà nghiên cứu có thể thu thập được thông tin cá nhân của tất cả người tham gia còn lại với tần suất khoảng một câu trong một phút.

Trước kết quả này, ông Dmitry Galov - Nhà nghiên cứu bảo mật của Kaspersky - cho biết “Khi bắt đầu nghiên cứu, chúng tôi đã kiểm tra phần mềm được sử dụng để phát triển hệ thống robot. Điều thú vị là chúng tôi phát hiện ra các nhà thiết kế đã có chủ ý loại trừ cơ chế bảo mật và thay vào đó chú trọng việc phát triển sự thuận tiện và hiệu quả. Tuy nhiên, dựa trên những kết quả cho thấy từ thực nghiệm của chúng tôi, tốt nhất các nhà phát triển robot không nên bỏ qua tính bảo mật khi giai đoạn nghiên cứu hoàn thành. Bên cạnh các đặc tính kỹ thuật, có những khía cạnh chủ chốt đáng lo ngại khi đến bước nghiên cứu về tính bảo mật của ngành robot. Chúng tôi mong muốn dự án liên kết và bước đột phá của chúng tôi trong lĩnh vực robot an ninh mạng cùng các đồng nghiệp tại Đại học Ghent sẽ khuyến khích mọi người theo dõi những minh chứng chúng tôi đưa ra và nâng cao nhận thức công chúng và cộng đồng về vấn đề này.”

Tony Belpaeme, Giáo sư trong ngành Trí Thông Minh Nhân Tạo và Robot của Đại học Ghent bổ sung thêm: “Tài liệu khoa học chỉ ra rằng sự tin tưởng đối với robot và cụ thể là robot xã hội là có thật và niềm tin này có thể được sử dụng để thuyết phục mọi người hành động hoặc tiết lộ thông tin. Nhìn chung, robot càng được lập trình giống con người, nó càng có khả năng thuyết phục và thu phục. Thực nghiệm của chúng tôi cho thấy điều này có thể đem lại những rủi ro bảo mật rất lớn: mọi người có xu hướng không để tâm đến những vấn đề này, cho rằng robot thì thân thiện và đáng tin cậy. Tuy nhiên, điều này dẫn đến những rủi ro tiềm năng đối với những đợt tấn công bằng mã độc và ba tình huống thực tế được đề cập trong báo cáo chỉ là một phần nhỏ về các rủi ro bảo mật liên quan đến robot xã hội...".

Từ khóa : robot, Kaspersky, robot xã hội,