Microsoft hạ nhiệt sự hào hứng về Copilot bằng cảnh báo "chỉ mang tính giải trí".

Trang chủ » Python » Microsoft hạ nhiệt sự hào hứng về Copilot bằng cảnh báo "chỉ mang tính giải trí".

Trong nhiều năm qua, Microsoft đã quảng bá Copilot như một trợ lý thông minh sẽ định hình lại công việc hàng ngày, tích hợp nó vào mọi hoạt động. Windows, Microsoft 365, Edge và quy trình làm việc doanh nghiệpThông điệp rất rõ ràng: đây là trọng tâm của một kỷ nguyên năng suất mới, có khả năng soạn thảo tài liệu, phân tích dữ liệu và giúp tự động hóa các tác vụ kinh doanh.

Câu chuyện đó hiện đang đối mặt với một bước ngoặt khó xử. Bản cập nhật điều khoản sử dụng chính thức mô tả Copilot như sau: “Chỉ mang tính chất giải trí” và cảnh báo rõ ràng mọi người không nên phụ thuộc vào nó cho các quyết định quan trọng hoặc có rủi ro cao, bao gồm tư vấn tài chính, pháp lý hoặc y tế. Sự thay đổi này đã khơi mào một cuộc thảo luận rộng rãi về việc trí tuệ nhân tạo tạo sinh thực sự đáng tin cậy đến mức nào và điều gì sẽ xảy ra khi những lời hứa tiếp thị xung đột với các điều khoản pháp lý phức tạp.

"Chỉ dành cho mục đích giải trí" thực sự có nghĩa là gì?

Ẩn sâu trong tài liệu của Microsoft là một điều khoản ngắn gọn nhưng đầy ý nghĩa: Copilot là “Chỉ mang tính chất giải trí. Có thể xảy ra lỗi và không hoạt động như mong đợi. Không nên dựa vào Copilot để nhận lời khuyên quan trọng. Sử dụng Copilot với rủi ro của riêng bạn.” Trên thực tế, điều này có nghĩa là Microsoft đang khẳng định rằng không nên coi kết quả đầu ra từ hệ thống là chính xác, đầy đủ hoặc phù hợp cho việc ra quyết định quan trọng.

Ngôn ngữ này không hoàn toàn lạ lẫm trong thế giới AI, nhưng giọng điệu của nó lại gây chú ý khi xét đến mối liên hệ mật thiết giữa Copilot và công việc hàng ngày. Các mô hình tạo sinh có thể tạo ra những sự thật ảo tưởng, cung cấp thông tin lỗi thời hoặc thiên vị và tạo ra mã hoặc đề xuất trông có vẻ hợp lý nhưng lại không hoạt động trong các tình huống thực tế. Về cơ bản, công ty đang nhắc nhở người dùng rằng, cho dù các câu trả lời nghe có vẻ tự tin đến đâu, Copilot không phải là chuyên gia không thể sai sót.

Điều khoản miễn trừ trách nhiệm càng quan trọng hơn khi các quyết định có hậu quả thực tế. Ví dụ, trong các công ty khởi nghiệp, người sáng lập có thể bị cám dỗ dựa vào Copilot để soạn thảo các bản trình bày cho nhà đầu tư, tạo mẫu thử nghiệm ý tưởng sản phẩm hoặc thậm chí định hình chiến lược. Trong các lĩnh vực như công nghệ tài chính, chăm sóc sức khỏe hoặc dịch vụ pháp lýViệc sử dụng kết quả đầu ra của AI chưa được kiểm chứng có thể gây ra các vấn đề về quy định, đạo đức và tuân thủ.

Về cơ bản, đội ngũ pháp lý của Microsoft đang vạch ra một ranh giới: công cụ này có thể hỗ trợ và truyền cảm hứng, nhưng trách nhiệm cuối cùng vẫn thuộc về người lựa chọn làm theo những gợi ý của nó.

Trái ngược hoàn toàn với nhiều năm tiếp thị năng suất.

Tranh cãi nảy sinh từ khoảng cách giữa khuôn khổ pháp lý thận trọng này và cách thức Copilot được quảng bá. Microsoft đã mạnh mẽ định vị thương hiệu Copilot như một phần của hệ điều hành này. một yếu tố nhân rộng năng suất được tích hợp trên toàn bộ hệ sinh thái của nó.Trong Windows 11, Copilot+ hoạt động như một trợ lý toàn hệ thống, trong Microsoft 365 như một người bạn đồng hành bên trong Word, Excel, Outlook và nhiều ứng dụng khác, và trong GitHub như một đối tác lập trình AI. Các máy tính chuyên dụng Copilot+ và thậm chí cả phím Copilot riêng biệt trên các bàn phím mới nhấn mạnh rằng đây không phải là một dự án phụ mà là một trải nghiệm hàng đầu.

Các chiến dịch quảng cáo và thuyết trình ra mắt đã định vị Copilot như động lực của một ngày làm việc mới, một công cụ để viết báo cáo, phân tích bảng tính, tóm tắt các chuỗi email dài và thậm chí hỗ trợ các quy trình làm việc kinh doanh phức tạp. Đối với các công ty trả khoảng... $ 30 mỗi người dùng mỗi tháng Đối với một số sản phẩm của Copilot, nó được quảng cáo là một trợ lý cấp doanh nghiệp nghiêm túc, chứ không phải là một món đồ chơi.

Trong bối cảnh đó, việc gọi công cụ này là "giải trí" theo nghĩa sử dụng thông thường, theo nhiều người quan sát, giống như một nỗ lực nhằm giảm bớt kỳ vọng mà không điều chỉnh chiến lược thương mại. Các nhà phê bình cho rằng thật khó để nói với người dùng rằng Copilot là cốt lõi của năng suất chuyên nghiệp, rồi lại nói thêm rằng họ không nên dựa vào nó cho bất cứ việc gì quan trọng.

Sự nhầm lẫn càng tăng lên bởi thực tế là, đối với người dùng không chuyên về kỹ thuật, các phiên bản khác nhau của Copilot trông khá giống nhau. phiên bản miễn phí hoặc dành cho người tiêu dùng Chúng được đóng gói dưới cùng một thương hiệu với các phiên bản doanh nghiệp hoạt động theo các hợp đồng và cam kết dịch vụ cụ thể hơn. Nhìn từ bên ngoài, chúng trông giống nhau, ngay cả khi các đảm bảo cơ bản không hoàn toàn giống nhau.

Nghiên cứu: thiên kiến ​​tự động hóa, ảo giác và khả năng sáng tạo hạn chế

Điều khiến Microsoft thận trọng là bởi mối lo ngại rộng rãi hơn mà các nhà nghiên cứu và cơ quan quản lý cùng chia sẻ: con người có xu hướng trao cho các hệ thống AI nhiều quyền lực hơn mức chúng xứng đáng. Một nghiên cứu quốc tế do phối hợp thực hiện... Liên minh châu Âu Broadcasting (EBU) Nghiên cứu cho thấy nhiều người dùng chấp nhận câu trả lời từ các trợ lý ảo như ChatGPT hoặc Copilot mà không đặt nhiều câu hỏi, ngay cả khi chúng chứa những lỗi nhỏ hoặc rõ ràng.

Hành vi này được gọi là thiên kiến ​​tự động hóa: xu hướng của con người ưu tiên kết quả đầu ra của các hệ thống tự động, đặc biệt khi nó được trình bày bằng giọng điệu rõ ràng, tự tin. Các phản hồi của AI tạo sinh thường dài, có cấu trúc tốt và được trau chuốt về mặt ngôn ngữ, điều này có thể tạo ấn tượng về chuyên môn ngay cả khi nội dung không đầy đủ, gây hiểu nhầm hoặc đơn giản là sai.

Một hướng nghiên cứu khác tập trung vào sự sáng tạo. Các nghiên cứu được công bố trong Tạp chí Nature Human Behaviour và các công trình nghiên cứu của các học giả tại trường Wharton. Các nghiên cứu đã chỉ ra rằng, mặc dù các mô hình có thể tạo ra một lượng lớn ý tưởng rất nhanh, nhưng những ý tưởng đó thường trùng lặp rất nhiều. Trong một số thí nghiệm, hơn 90% đề xuất do AI tạo ra tập trung xung quanh các khái niệm tương tự, trong khi các buổi động não của con người tạo ra nhiều hướng đi đa dạng hơn.

Đối với các doanh nghiệp và tổ chức giáo dục, điều này đặt ra một khả năng khó chịu: nếu các nhóm thay thế quá trình sáng tạo cộng tác, do con người dẫn dắt bằng quy trình làm việc chỉ dựa vào AI, họ có thể đẩy nhanh tiến độ sản xuất nhưng lại thu hẹp tầm nhìn sáng tạo. Sản phẩm đầu ra có thể trông trau chuốt nhưng thiếu sự đa dạng và tính độc đáo đến từ việc những người có nền tảng khác nhau cùng nhau suy nghĩ. Các chuyên gia nhấn mạnh rằng sự sáng tạo của con người, bối cảnh và khả năng phán đoán Chúng vẫn đóng vai trò thiết yếu, đặc biệt là đối với sự đổi mới và giải quyết vấn đề.

Sự căng thẳng nội bộ trong chiến lược Copilot của Microsoft

Copilot không phải là một thử nghiệm nhỏ lẻ được giấu kín trong phòng thí nghiệm; nó được cài đặt sẵn và tích hợp sâu vào hệ thống. môi trường điện toán hàng ngày của hàng triệu người dùngWindows 11 tích hợp tính năng này chỉ với một cú nhấp chuột trên thanh tác vụ, các ứng dụng Office hiển thị các bản nháp và tóm tắt do AI tạo ra, và GitHub Copilot đã trở thành một cộng tác viên quen thuộc cho các nhà phát triển. Thương hiệu này đã phát triển thành một thuật ngữ bao quát nhiều tính năng được hỗ trợ bởi AI.

Sự phổ biến này càng khiến ngôn ngữ chỉ dành cho giải trí của Microsoft trở nên khó hiểu hơn. Nếu cùng một trợ lý ảo giúp soạn thảo hợp đồng, bài thuyết trình và sửa lỗi mã nguồn lại được mô tả về mặt pháp lý là công cụ giải trí, người dùng sẽ tự hỏi ranh giới giữa việc thử nghiệm vui vẻ và sự phụ thuộc chuyên nghiệp nằm ở đâu. Một số người có ấn tượng rằng công ty đang cố gắng tận dụng lợi thế về danh tiếng khi trở thành người dẫn đầu về năng suất AI, trong khi đó... giảm thiểu rủi ro pháp lý khi mọi việc trở nên tồi tệ.

Các điều khoản sử dụng không chỉ dừng lại ở tính chính xác. Microsoft cũng cho biết Copilot có thể bao gồm... quảng cáo, đánh giá dữ liệu tự động và thủ côngvà các tính năng thử nghiệm trong các sáng kiến ​​như “Copilot Labs” có thể bị thay đổi, làm chậm hoặc loại bỏ bất cứ lúc nào. Cách diễn đạt nhấn mạnh rằng hiệu suất, tốc độ và bộ tính năng không được đảm bảo và có thể được điều chỉnh đơn phương.

Đồng thời, các báo cáo chỉ ra rằng không phải tất cả những lời hứa của Copilot đều đã được hiện thực hóa thành việc áp dụng rộng rãi, đặc biệt là ở mảng trả phí. Các đánh giá nội bộ và các bài báo bên ngoài đã chỉ ra điều này. Lỗi, ảo giác và một số tính năng được đánh giá là hầu như không thể sử dụng được.Tỷ lệ người dùng Office đủ điều kiện sử dụng công cụ này chỉ vài phần trăm, điều này cho thấy sự hào hứng giảm đi khi các tổ chức thử nghiệm công cụ trong quy trình làm việc thực tế.

Tuy nhiên, bức tranh tài chính tổng thể của Microsoft vẫn mạnh mẽ. Các mảng kinh doanh truyền thống về điện toán đám mây và phần mềm tiếp tục mang lại doanh thu và lợi nhuận ổn định, tạo điều kiện tài chính cho công ty đầu tư mạnh vào cơ sở hạ tầng AI—trung tâm dữ liệu, chip và nghiên cứu—ngay cả khi quá trình triển khai Copilot diễn ra chậm hơn và gặp nhiều khó khăn hơn so với dự kiến ​​ban đầu.

Microsoft so sánh như thế nào với các nhà cung cấp AI khác?

Điều quan trọng cần lưu ý là Microsoft không phải là đơn độc trong việc đưa ra các điều kiện ràng buộc. Các nhà cung cấp AI lớn khác, bao gồm... OpenAI và xAICác tổ chức này cũng đã đưa ra những cảnh báo rõ ràng về những hạn chế của hệ thống của họ. Ví dụ, OpenAI nhấn mạnh rằng sản phẩm của họ không nên được coi là nguồn thông tin duy nhất đáng tin cậy, và xAI cảnh báo về khả năng gây ảo giác, nội dung xúc phạm hoặc mô tả không chính xác về người và sự kiện.

Những thông báo này phản ánh bản chất xác suất của các mô hình ngôn ngữ lớn: chúng tạo ra văn bản bằng cách dự đoán các từ tiếp theo có khả năng xuất hiện dựa trên các mẫu trong dữ liệu huấn luyện, chứ không phải bằng cách khác. Xác minh thông tin dựa trên cơ sở kiến ​​thức được cập nhật liên tục.Do đó, chúng có thể đưa ra những câu trả lời nghe có vẻ hợp lý nhưng lại không vượt qua được những bước kiểm tra cơ bản mà một chuyên gia con người sẽ thực hiện. Đối với người dùng có kinh nghiệm, điều này gần như là lẽ thường, nhưng nhiều người lần đầu tiên tương tác với chatbot lại không nhận thức được những hạn chế này.

Khó khăn nằm ở cách người dùng nhìn nhận các công cụ. Khi một trợ lý ảo được tích hợp vào một hệ điều hành quen thuộc, được khoác lên mình giao diện bắt mắt và được quảng cáo như một cộng sự, khoảng cách tâm lý giữa "công cụ này hữu ích" và "công cụ này chắc chắn đúng" sẽ nhanh chóng thu hẹp lại. Các điều khoản miễn trừ trách nhiệm pháp lý có thể bảo vệ công ty về mặt kỹ thuật, nhưng chúng không phải lúc nào cũng thay đổi hành vi của người dùng tại thời điểm đưa ra quyết định.

Microsoft đã cho biết, trong các bình luận với một số phương tiện truyền thông, rằng một số phần trong cách diễn đạt về giải trí đã lỗi thời và sẽ được sửa đổi để phản ánh tốt hơn cách sử dụng Copilot hiện nay. Tuy nhiên, cho đến khi những thay đổi đó xuất hiện trong các tài liệu chính thức, ngôn ngữ hiện tại vẫn tiếp tục gây tranh cãi về việc chính công ty coi trọng công cụ này đến mức nào trong bối cảnh chuyên nghiệp.

Rủi ro trong triển khai thực tế và thiên kiến ​​tự động hóa

Ngoài lý thuyết, còn có những ví dụ thực tế về những điều có thể xảy ra sai sót khi các tổ chức phụ thuộc quá nhiều vào trí tuệ nhân tạo tạo sinh. Các báo cáo về sự cố tại các nhà cung cấp dịch vụ đám mây lớn đã mô tả các trường hợp mà trong đó... Các công cụ hỗ trợ bởi trí tuệ nhân tạo đã góp phần gây ra sự gián đoạn dịch vụ.Điều này xảy ra sau khi các hệ thống tự động được phép thực hiện thay đổi hoặc gỡ lỗi mà không có sự giám sát đầy đủ của con người. Trong một số báo cáo, các kỹ sư cấp cao đã phải can thiệp sau khi các quy trình làm việc được hỗ trợ bởi AI gây ra các vấn đề dây chuyền.

Những tình huống này minh họa cách các lỗi nhỏ trong mô hình có thể bị khuếch đại trong các cơ sở hạ tầng phức tạp. Một nhật ký bị hiểu sai, một thay đổi cấu hình không chính xác hoặc một đề xuất mã bị lỗi có vẻ nhỏ nhặt, nhưng bên trong một hệ thống phân tán liên kết chặt chẽ, nó có thể gây ra sự cố ngừng hoạt động ngoài dự kiến. Logic tương tự cũng áp dụng cho phạm vi ngoài cơ sở hạ tầng: một email do AI soạn thảo gửi cho khách hàng quan trọng, một con số tính toán sai trong mô hình tài chính hoặc một điều khoản pháp lý được soạn thảo kém đều có thể dẫn đến những hậu quả nghiêm trọng.

Thiên kiến ​​tự động hóa làm trầm trọng thêm những rủi ro này. Khi một quy trình đã được tự động hóa một phần, sẽ có xu hướng tin tưởng vào máy móc và làm việc nhanh hơn. Nếu các nhà quản lý và kỹ sư cho rằng “công cụ biết nó đang làm gì”, họ có thể bỏ qua các bước mà họ sẽ không bao giờ bỏ qua trong một quy trình hoàn toàn thủ công. Chính câu chuyện về hiệu quả do AI thúc đẩy có thể gây áp lực lên các nhóm, khiến họ giảm thời gian kiểm tra lại công việc của trợ lý ảo.

Đó chính là lý do tại sao các tài liệu của Microsoft liên tục nhắc nhở người dùng không nên phụ thuộc vào Copilot để nhận “lời khuyên quan trọng” và phải tự chịu trách nhiệm khi sử dụng nó. Công ty thừa nhận rằng, trong môi trường mà hiệu suất, an toàn và độ tin cậy là những yếu tố quan trọng, Việc xem xét của con người là bắt buộc. nhưng đó là một yêu cầu bắt buộc về việc sử dụng có trách nhiệm.

Ý nghĩa đối với các công ty khởi nghiệp, doanh nghiệp và người dùng thông thường

Đối với các nhà sáng lập và đội ngũ công nghệ, đặc biệt là ở những khu vực có nguồn lực hạn chế và các công cụ AI được xem như một giải pháp tiết kiệm chi phí, lời cảnh báo của Copilot là lời nhắc nhở rằng cần thiết kế hệ thống có sự giám sát, chứ không phải là sự tin tưởng mù quáng. Nhiều công ty khởi nghiệp ở Mỹ Latinh và các nơi khác dựa vào... nền tảng không cần lập trình và trí tuệ nhân tạo tạo sinh Để mở rộng quy mô nhanh chóng. Trong bối cảnh đó, việc ghi lại nơi AI được sử dụng, loại quyết định nào nó tác động và cách thức kiểm tra của con người được thực thi trở nên vô cùng quan trọng.

Các chuyên gia tư vấn thường khuyên các công ty nên bắt đầu bằng cách áp dụng Copilot cho các tác vụ có rủi ro thấp, khối lượng lớn: soạn thảo email nội bộ, tóm tắt biên bản cuộc họp, tạo đoạn mã ban đầu hoặc sản xuất nội dung tiếp thị cần được chỉnh sửa bởi con người. Đối với bất kỳ vấn đề nào ảnh hưởng đến việc tuân thủ quy định, an toàn, tài chính hoặc rủi ro pháp lý, kết quả đầu ra của AI nên được coi là những đề xuất cần được xem xét từng dòng một, chứ không phải là phán quyết cuối cùng.

Yếu tố lòng tin cũng rất quan trọng. Khách hàng và nhà đầu tư ngày càng đặt câu hỏi về cách thức sử dụng AI trong sản phẩm và hoạt động. Việc truyền đạt rõ ràng về những hạn chế của các công cụ như Copilot, cùng với bằng chứng về khả năng ứng dụng, là rất cần thiết. kiểm soát chất lượng và phê duyệt của con ngườiĐiều này có thể trở thành lợi thế cạnh tranh. Các công ty khởi nghiệp giới thiệu AI như một trợ lý được giám sát chặt chẽ có nhiều khả năng tạo được lòng tin hơn so với những công ty coi nó như một cỗ máy ra quyết định toàn năng.

Đối với người dùng cá nhân, kết luận đơn giản hơn: Copilot có thể tiết kiệm thời gian, giúp khám phá ý tưởng và làm cho công việc điện toán hàng ngày trở nên mượt mà hơn, nhưng nó không nên là lời giải cuối cùng cho bất cứ điều gì thực sự quan trọng. Cho dù câu hỏi liên quan đến triệu chứng bệnh lý, lựa chọn đầu tư, quyền pháp lý hay các quyết định cá nhân nhạy cảm, tư vấn là điều cần thiết. các chuyên gia có trình độ và các nguồn thông tin chính đáng tin cậy vẫn là điều cần thiết.

Trong tất cả các bối cảnh này, một cách tiếp cận cân bằng đang dần hình thành. Các tổ chức thu được nhiều giá trị nhất từ ​​Copilot và các công cụ tương tự thường là những tổ chức kết hợp chúng với các quy trình đã được thiết lập, vẫn duy trì sự tham gia của con người và tránh việc giao phó hoàn toàn việc ra quyết định quan trọng cho một hệ thống dựa trên xác suất.

Cuối cùng, chính cách diễn đạt của Microsoft đã phản ánh thực trạng hiện tại của trí tuệ nhân tạo tạo sinh một cách trung thực hơn cả những lời quảng cáo trau chuốt nhất của họ. Copilot có thể là một trợ lý ấn tượng, có khả năng tăng tốc các tác vụ thường ngày và khơi gợi những hướng đi mới, nhưng việc nó được gắn mác “chỉ dành cho mục đích giải trí” nhấn mạnh một điểm đơn giản: Công nghệ này mạnh mẽ nhưng vẫn có thể gặp lỗi.Và tác động thực sự của nó phụ thuộc vào việc mọi người sử dụng nó cẩn thận đến mức nào. Hiện tại, sự giám sát của con người, thái độ hoài nghi và bối cảnh vẫn là những biện pháp bảo vệ chính khi biến các đề xuất của AI thành hành động thực tế.