Fei-Fei Li hiện là một ngôi sao nổi bật trong lĩnh vực trí tuệ nhân tạo. Bà đang nắm giữ cùng lúc 2 công việc: trưởng Phòng thí nghiệm AI của Đại học Stanford đồng thời là người lãnh đạo nhóm nghiên cứu AI tại Google Cloud.

Tháng 9 năm ngoái, khi ban lãnh đạo Google tỏ ra bối rối trong việc quyết định công bố thỏa thuận hợp tác đầu tiên với Lầu Năm Góc trong một dự án quốc phòng, tiến sĩ Li đã thẳng thừng đề nghị tránh dùng 2 từ ngữ nhạy cảm trong tình huống đó.

Theo lá thư gửi tới các đồng nghiệp được tờ New York Times công bố, Li cho rằng: “BẰNG MỌI GIÁ phải tránh đề cập đến việc ứng dụng TRÍ TUỆ NHÂN TẠO trong thỏa thuận này. Đây là miếng thịt cực kỳ thơm tho mà Google có thể hở ra cho giới truyền thông xâu xé”.

Vũ khí thông minh có lẽ là một trong những chủ đề nhạy cảm nhất của lĩnh vực trí tuệ nhân tạo, nếu không nói là quan trọng nhất.

Mối quan ngại của tiến sĩ Li quả thật đã mang tính dự đoán sâu sắc, khi công ty bắt đầu qua lại với giới quốc phòng nhờ việc thắng một phần gói thầu trong Chương trình Maven – chương trình ứng dụng AI vào việc phân tích hình ảnh video nhằm cải tiến năng lực xác định mục tiêu cho các đòn tấn công bằng máy bay không người lái – của Bộ Quốc phòng. Dự án này cũng được cho là đã thổi bùng lên một cuộc khủng hoảng đang tồn tại âm ỉ lâu nay trong nội bộ công ty.

Maven đã khiến Google chia rẽ sâu sắc. Nó làm dậy sóng các cuộc họp cũng như trao đổi nội bộ giữa nhân viên, và thậm chí khiến nhiều người từ chức. Tranh cãi quanh tính đạo đức của chương trình trên đẩy nhiều nhân viên cấp cao, trong đó có cả tiến sĩ Li, vào tình huống đứng giữa hai dòng nước: một bên là đạo đức nghề nghiệp của một người làm khoa học phục vụ nhân sinh, và bên kia là vai trò không thể chối từ của một thương gia phục vụ khách hàng.

Thực ra, mô hình làm ăn dựa trên quảng cáo của Google từ lâu đã làm nên sự thành công cho họ, nhưng cũng là căn nguyên của nhiều chỉ trích vì xâm phạm nghiêm trọng quyền riêng tư của người dùng. Chưa kể nó còn tiếp tay cho những trang web thiếu minh bạch như đăng tin thất thiệt hòng câu khách.

Giờ đây, Google lại tiếp tục bị chia rẽ khi ứng dụng các dịch vụ nền tảng đám mây của mình vào lĩnh vực quân sự: nếu theo đuổi các hợp đồng như Maven, họ có nguy cơ mất nhiều bộ não siêu việt trong lĩnh vực AI, còn nếu từ chối, hiển nhiên là họ đang tự đánh mất một khoản lợi nhuận cực kỳ béo bở.

Cuộc tranh luận giữa việc ủng hộ hay phản đối dự án Maven đã dẫn đến kết cục là một vụ kêu gọi thu thập chữ ký của các nhân viên, những người đòi hỏi “Google cần đưa ra một chính sách minh bạch về việc không được tham gia vào các công nghệ phục vụ chiến tranh”. Có đến 4000 người đã đồng ý ký tên.

Phản ứng tương tự cũng diễn ra ở Phòng thí nghiệm DeepMind của Google tại Luân Đôn. Những nhà điều hành ở đây cũng như nhân viên dưới quyền đã thẳng thừng từ chối nhiệm vụ trong hợp đồng Maven. Được biết, thỏa thuận hợp tác ký kết giữa 2 công ty không cho phép ứng dụng công nghệ của DeepMind vào mục đích quân sự và do thám.

Theo trang Gizmodo, hàng loạt nhân sự của Google đã từ chức liên quan đến sự việc này cho đến nay. Một kỹ sư trước khi rời đi còn kêu gọi đổi tên phòng họp của mình thành Clara Immerwahr, nhà hóa học người Đức đã tự sát năm 1915 sau khi phản đối ứng dụng khoa học vào chiến tranh. Thậm chí người ta còn thấy cả những biểu ngữ “Chỉ làm điều lương thiện” (nhại theo bộ phim cùng tên) xuất hiện bên ngoài tòa nhà văn phòng Google tại New York như một cách phản đối tinh vi khác.

Từ những email và tài liệu nội bộ được tiết lộ, người ta biết rằng phần lớn lãnh đạo Google đã dự đoán được trước tình hình hiện nay. Trái lại, nhiều người khác chỉ quan tâm việc các đối thủ Microsoft và Amazon cũng đang nhiệt tình theo đuổi các dự án hấp dẫn khác tương tự, cho nên Google chẳng việc gì phải tự trách mình mà bỏ lỡ cơ hội tăng trưởng quan trọng như vậy.

Trong khi nhiều công ty khác sẵn sàng tìm kiếm các hợp đồng quân sự miễn là không khiến nhân viên của mình phản đối, thì Google không thể cư xử theo cách tương tự. Từ trong bản chất và hình ảnh tự thân của họ, Google tỏ ra rất khác biệt:

“Chúng tôi có một tuyên ngôn cho riêng mình, đó là Không trở nên xấu xa. Điều đó có nghĩa là chúng tôi luôn làm những điều tốt nhất cho người dùng, khách hàng cũng như cả xã hội”.

Larry Page đã nói như vậy với kênh ABC News năm 2014, khi anh cùng nhà sáng lập Sergey Brin được vinh danh là “Nhân vật tiêu biểu của năm”.

Sóng gió ở Google nổi lên từ khi người ta nhận thấy hợp đồng Maven có khả năng bị lạm dụng vào các hành vi giết người bằng máy bay không người lái. Điều đó còn cấp thiết hơn nữa khi AI, một trong các thế mạnh của Google, đang ngày càng đóng vai trò quan trọng trong mô hình chiến tranh hiện đại.

Đích thân Bộ trưởng Quốc phòng Mỹ, James Mattis, đã từng viếng thăm tới Google hồi tháng 8 năm ngoái, ngay sau chuyến dừng chân tại Amazon. Từ những cuộc gặp gỡ này, ông đều kêu gọi sự hợp tác chặt chẽ hơn nữa với giới công nghệ.

***

Trở lại với phát ngôn của tiến sĩ Li ở đầu bài. Chúng nằm trong loạt thư trao đổi giữa bà và Scott Frohman, trưởng Bộ phận kinh doanh công nghệ tình báo và quốc phòng của Google. Trong thư, ông Frohman đã xin lời tư vấn về dự án Maven sắp diễn ra cũng như cách thức đối phó với những câu hỏi hóc búa của công chúng khi đó.

Một loạt các đồng nghiệp trong Google đã được cân nhắc câu hỏi này nhưng hầu như họ đều đá trọng trách sang Li, một người sinh ra ở Trung Quốc, di cư tới Mỹ năm 16 tuổi với vốn tiếng Anh “một chữ bẻ đôi không biết” và giờ đây lại leo lên được vị trí cao ngất ngưởng trong giới công nghệ.

Li nói trong email rằng quyết định cuối cùng sẽ thuộc về sếp của bà, Diane Greene, tức người đứng đầu bộ phận Google Cloud. Nhưng bà nghĩ rằng Google nên công khai hợp đồng Maven theo hướng là “một thắng lợi lớn cho Google Cloud Platform”, nền tảng các dịch vụ đám mây của doanh nghiệp này.

Bà cũng khuyên người đồng nghiệp cực kỳ cẩn thận trong việc lựa chọn khung thời gian công bố dự án. Li không thể tưởng tượng được một khi giới truyền thông bắt đầu chỉ trích Google bí mật xây dựng các loại vũ khí thông minh hoặc công nghệ phục vụ chúng sẽ ra sao.

những nguyên tắc của TÔI sẽ bị xúc phạm ghê gớm nếu bị buộc phải thực hiện những dự án vũ trang cho AI.

Lời khuyên của Li đã khiến Google quyết định không công bố dự án Maven. Vai trò của họ chỉ được đưa ra ánh sáng khi các nhân viên phản đối bắt đầu lên tiếng ở những diễn đàn truyền thông nội bộ của công ty.

Lắng nghe ý kiến đó, hãng tìm kiếm hứa hẹn sẽ đưa ra một bộ nguyên tắc chỉ đạo những lựa chọn của mình trong tương lai mà như lời CEO Sundar Pichai phát biểu tại hội nghị toàn công ty hôm thứ Năm vừa rồi, là một nguyên tắc “đứng vững theo thời gian”. Mặc dù vậy, vẫn chưa rõ những nguyên tắc kiểu “vùng cấm” này sẽ được áp dụng trong thực tế ra sao.

***

Cuộc tranh cãi gây chia rẽ Google cũng làm nảy sinh nhiều quan điểm khác nhau.

Trước tiên, việc cải tiến nhận dạng hình ảnh trên máy bay không người lái có thể giúp giảm thiểu thương vong cho dân thường và tăng khả năng nhận diện khủng bố. Trong trường hợp Google thoái thác, Bộ Quốc phòng Mỹ cũng chẳng vì vậy mà từ bỏ nỗ lực theo đuổi công nghệ AI. Theo các chuyên gia quân sự, Trung Quốc và nhiều nước phát triển khác đã và đang đầu tư nhiệt tình cho lĩnh vực này.

Dù vậy, Google được chọn vì các công nghệ của họ là nhân văn và nhẹ nhàng hơn rất nhiều so với đối thủ. Nhưng các chuyên gia vẫn lo lắng vì bên thuê họ, Bộ Quốc phòng, cuối cùng vẫn có thể ép Google tạo ra nhiều phương thức giết người hiệu quả về sau.

Tại Google, phản biện mọi vấn đề của công ty là một nét văn hóa rất đặc trưng. Nhưng ngay cả môi trường tự do ngôn luận đó cũng không khiến Maven trở thành một đề tài dễ thảo luận. Có thể nói, nó thực sự khuấy đảo bầu không khí hơn bất cứ tiền lệ nào.

Khi hợp đồng Maven bắt đầu rò rỉ trong nội bộ công ty, bà Greene đã ngay lập tức trấn an dư luận và giải thích mức độ dính líu của Google vào sự vụ này. Theo đó, hệ thống họ thiết kế không dành cho các mục đích giết người, và quy mô dự án ký kết “chỉ” ở mức 9 triệu USD.

Google còn nhanh chóng tổ chức một buổi thảo luận chuyên sâu với nhiều cái tên như Diane Greene, Meredith Whittaker, người lãnh đạo phong trào phản đối Maven trong công ty, và Vint Cerf, phó giám đốc và cũng là một trong những người khai sinh ra Internet dưới thời còn làm việc cho Bộ Quốc phòng.

Điều này có vẻ đã phát huy tác dụng giúp phần nào hạ nhiệt những quan ngại nảy sinh. Và bởi vì có quá nhiều người quan tâm, nhóm công tác trên đã phải tranh luận đến 3 lần chỉ trong một ngày trong khi các nhân viên của Google trên khắp thế giới dõi theo họ qua video.

Trong khi đó, nhà đồng sáng lập Sergey Brin cho rằng:

“sẽ tốt hơn nếu các quân đội trên thế giới liên kết với những tổ chức mang tầm quốc tế như Google”.

Google và công ty mẹ Alphabet đang thuê rất nhiều chuyên gia hàng đầu trong lĩnh vực AI. Phần lớn họ đến từ giới học thuật và một số vẫn đang tiếp tục công việc dạy học của mình. Điểm chung của các bộ óc siêu việt này là đều phản đối dính dáng đến bạo lực.

Thế nên, người ta có thể chắc chắn rằng Google sẽ không có cơ hội cộng tác một cách thầm lặng trong lĩnh vực nhạy cảm này mà không đánh động công chúng, tương tự như hy vọng của tiến sĩ Li nhằm giữ cho AI không nằm trong chủ đề tranh cãi trên thực tế.

Cuối cùng thì, dù được đồng nghiệp khuyên lái sang đề tài điện toán đám mây, tiến sĩ Li vẫn phải thừa nhận mọi việc chỉ xoay quanh trí tuệ nhân tạo. Vì vậy trừ khi Google giàn xếp được mọi việc, bằng không họ sẽ nhận hậu quả không sớm thì muộn.

Theo New York Times

BÌNH LUẬN

Please enter your comment!
Please enter your name here