AMA with Lars-Hendrik Röller – CEO Berlin Global Dialogue
r/technology
u/WillSen – Oct 03, 2024
Hiện tại, tôi đang ở Berlin Global Dialogue – một sự kiện độc quyền nơi các nhà lãnh đạo công nghệ và kinh doanh hàng đầu thế giới đang quyết định cách định hình tương lai. Nó giống như Diễn đàn Kinh tế Thế giới (một sự kiện diễn ra hàng năm tại Davos, Thụy Sĩ), nhưng tập trung hơn vào công nghệ và trí tuệ nhân tạo (AI).
Những ai đang có mặt ở đây? Có Phó Chủ tịch Tác động Toàn cầu của Open AI, Herman Hauser (người sáng lập ARM), và Tổng thống Pháp Emmanuel Macron.
(Lời người dịch: ARM, tên đầy đủ là Advanced RISC Machines, là một công ty thiết kế vi xử lý có trụ sở tại Cambridge, Anh.)
Dưới đây là những điều bạn cần biết:
AI và học máy đang được coi như cuộc cách mạng công nghiệp tiếp theo. Một nhà sáng lập chia sẻ rằng ông ấy đã sa thải 300 nhân viên và thay thế bằng API của Open AI (ngay cả Phó Chủ tịch của Open AI cũng tỏ ra ngạc nhiên).
Các cuộc trò chuyện tập trung mạnh vào cách kiểm soát và kiếm tiền từ công nghệ và AI – nhưng có một vấn đề rõ ràng…
…mọi người ở đây đều là thành viên của một nhóm lãnh đạo nội bộ – và nhiều người không hiểu rõ về công nghệ mà họ đang nói đến (tuy nhiên, Open AI thì có – lời khuyên của họ là “hãy sử dụng công nghệ của chúng tôi để hiểu” – điều đó có lợi cho họ nhưng không phải cho tất cả).
Tôi đã lập trình hơn một thập kỷ, giảng dạy lập trình trên Frontend Masters và điều hành một trường công nghệ độc lập, nhưng những gì đang diễn ra trong những căn phòng này còn quan trọng hơn bao giờ hết. Nếu bạn làm việc trong lĩnh vực công nghệ, hãy chuẩn bị tinh thần cho việc AI/Học máy sẽ thay đổi hoàn toàn cuộc chơi. Mọi doanh nghiệp sẽ áp dụng nó, dù bạn có sẵn sàng hay không.
Là người được nuôi dạy bởi cha mẹ là giáo viên trường công lập, tôi rất tâm huyết trong việc đảm bảo rằng lợi ích của AI không chỉ nằm trong tay các tập đoàn.
Tôi sẽ ở đây cả ngày tại Hội nghị BGD và sẽ trả lời câu hỏi của bạn khi tôi tìm hiểu sâu hơn về những cuộc trò chuyện này.
Hãy hỏi tôi bất cứ điều gì về những gì thực sự đang diễn ra ở đây.
u/Stillcant
Những ứng dụng nào mà các nhà lãnh đạo nhìn thấy mà công chúng chưa nhận ra? Từ góc nhìn không chuyên về công nghệ của một người lớn tuổi như tôi, có vẻ như tạo hình ảnh, viết lách, có thể là video và trò chơi điện tử, hoạt hình đang rất phát triển.
Trò chuyện về chính sách nhân sự có vẻ ổn.
Tạo nội dung rác trên các trang web có vẻ ổn.
Tôi chưa thấy những ứng dụng chuyển đổi mang tính đột phá khác.
u/WillSen
“Tạo nội dung rác trên các trang web” – đúng là quá chuẩn.
Được rồi, nhà đầu tư mạo hiểm (người sáng lập ARM) đã rất chính xác (các nhóm kỹ sư của chúng tôi đang cho thấy mức tăng năng suất 90%)…
Cộng sự chính tại công ty luật lớn (A&O) về AI (họ đã giành được giải thưởng cho sự đổi mới Luật AI tốt nhất toàn cầu mà tôi thấy trên trang web của họ) thì tế nhị hơn nhiều (lời người dịch: tế nhị hơn khi nói đến tác động của AI với công việc của họ) – “rà soát tài liệu, thu thập thông tin chi tiết từ lượng lớn tiền lệ pháp lý”.
(lời người dịch: A&O Shearman, là kết quả của sự sát nhập giữa hai công ty luật nổi tiếng là Allen & Overy và Shearman & Sterling vào tháng 5 năm 2024. Đây là một trong những công ty luật lớn nhất thế giới, với khoảng 4.000 luật sư và 800 đối tác làm việc tại gần 50 văn phòng trên toàn cầu.)
Nhưng đó là những điều lớn lao mà tôi nghe được và cảm thấy mang tính xây dựng.
Điều gây sốc là Giám đốc điều hành của ‘công ty kỳ lân châu Âu trị giá hơn tỷ đô la’ đã cắt giảm 300 việc làm bằng cách sử dụng API của OpenAI. (lời người dịch: công ty này là Klarna. Klarna là một công ty fintech có trụ sở tại Stockholm, Thụy Điển, được thành lập vào năm 2005. Công ty này nổi tiếng với dịch vụ “mua ngay, trả sau”, cho phép người tiêu dùng thực hiện các giao dịch mua sắm trực tuyến mà không cần thanh toán ngay lập tức cho nhà bán lẻ. Thay vào đó, khách hàng có thể trả tiền cho Klarna trong vòng 30 ngày hoặc chia nhỏ khoản thanh toán thành nhiều kỳ hạn mà không phải chịu lãi suất)
u/ipokestuff
“Đã cắt giảm 300 việc làm” – 300 trong số bao nhiêu? 300 người này ban đầu làm công việc gì? Tôi làm việc trực tiếp với những thứ này và nếu bạn có thể sa thải 300 người và thay thế họ bằng một mô hình ngôn ngữ lớn (LLM), có lẽ ban đầu bạn đã làm sai điều gì đó. Tôi không tin điều này.
Ngay cả khi đó là dịch vụ chăm sóc khách hàng (phân khúc đang chứng kiến nhiều vụ sa thải nhất do LLM), bạn sẽ phải giảm 300 người này trước đó bằng cách sử dụng bot với luồng hội thoại và các loại tự động hóa khác. Ông ta đang nói nhảm.
u/SAnderson1986
Đó là Klarna.
u/davidanton1d
Bài báo này thậm chí còn nói là 700: https://tech.eu/2024/02/28/power-of-ai-is-happening-right-now-says-klarna-boss-as/
Năm 2023, họ đã thuê ngoài toàn bộ bộ phận hỗ trợ khách hàng 3000 người của mình, có lẽ để không phải chịu trách nhiệm trực tiếp về việc cắt giảm việc làm khi các đại lý AI thay thế vị trí của họ.
u/ipokestuff
Tôi đoán điều tôi đang cố gắng nói là thực ra AI vẫn chưa “gây ra sự gián đoạn trong ngành”. Rất nhiều người (Nvidia) đang trở nên rất giàu có, rất nhiều công ty đang đầu tư vào LLM mà không có mục tiêu rõ ràng, chủ yếu là do hội chứng sợ bỏ lỡ (FOMO). Đúng vậy, LLM có thể được sử dụng làm chất xúc tác nhưng nói rằng những chất xúc tác đó sẽ làm tăng GDP của một quốc gia lên ít nhất 10% là hoàn toàn lố bịch.
Cũng giống như công ty này sa thải 300 người, tôi chắc chắn rằng tôi có thể giảm số lượng nhân viên một cách hiệu quả mà không cần sử dụng LLM. Tôi đã tham gia nhiều sự kiện khác nhau, gần đây nhất là Hội nghị thượng đỉnh đám mây của Google, nơi các công ty khác nhau nói về việc triển khai GenAI của họ nhưng tôi vẫn chưa thấy lợi nhuận mà GenAI mang lại. Cảm giác như mọi người đang nói về nó vì họ sợ không nói về nó.
Tôi không phải là người bi quan, tôi làm việc với công nghệ này hàng ngày với mục đích tự động hóa và tăng tốc công việc, tôi nghĩ “AI” (theo định nghĩa mới của nó) có thể giúp ích nhưng tôi cũng nghĩ rằng đó là một bong bóng khổng lồ, bong bóng KHỔNG LỒ.
Chỉnh sửa: Chúng ta đã sử dụng AI kể từ khi có máy tính, nó không có gì mới, nó không làm gián đoạn bất cứ điều gì, nó chỉ là một phần của các ngành công nghiệp. LLM là mới nhưng AI đã tồn tại từ rất lâu rồi.
u/Wotg33k
Tôi thấy mọi người nói rất nhiều về LLM, nhưng tôi không chắc tại sao các bạn lại đề cập đến chúng nhiều như vậy về cuộc cách mạng AI.
LLM thậm chí còn không liên quan đến cuộc trò chuyện vì bạn đang nói về một điểm cuối bảo thủ, chứ không phải là tự động hóa mọi thứ bằng cách sử dụng học máy và trí tuệ nhân tạo.
Học máy là lý do tại sao 45 nghìn công nhân bốc xếp đang đình công (lời người dịch: 45 nghìn công nhân làm việc tại các cảng ở Mỹ đang đình công, có 1 topic trên Reddit đang thảo luận sôi nổi viề việc này). Chúng ta đã tự động hóa toàn bộ các bến cảng, chỉ còn lại một nhóm nhỏ người vận hành cần cẩu, v.v. Những công nhân bốc xếp đó đang đấu tranh cụ thể để giảm bớt tự động hóa. Thậm chí là không có tự động hóa nào cả.
Có một nguồn lợi nhuận khổng lồ ở đây.
u/Ok_Engineering_3212
Có ai thảo luận về trách nhiệm pháp lý khi AI gây ra chết người hoặc mắc lỗi, hoặc cách xử lý tranh chấp giữa người tiêu dùng và AI khi AI không thể hiểu được mối quan tâm của họ không?
Có ai thảo luận về tác động lâu dài của việc quá phụ thuộc vào tự động hóa trong việc tạo nội dung và hậu quả là người tiêu dùng mất hứng thú với các sản phẩm do AI tạo ra không?
Có ai thảo luận về việc người tiêu dùng sẽ chi trả cho mọi thứ như thế nào nếu họ không thể tìm được việc làm không?
Những người trong căn phòng đó có thực sự mong đợi phần lớn xã hội sẽ trở thành thạc sĩ và tiến sĩ để tìm việc làm, thay vì chỉ trút sự thất vọng của họ lên chính phủ và các tập đoàn không?
Các nhà lãnh đạo doanh nghiệp dường như rất hào hứng với tất cả những công nghệ này, nhưng người dân bình thường dường như sợ hãi, ngờ vực và lo lắng cho sinh kế của họ.
u/scottimusprimus
Mới hôm trước, ChatGPT tự tin nói với tôi rằng hãy kết nối các đường thủy lực của tôi theo cách mà lẽ ra đã phá hủy máy kéo của tôi. Tôi rất vui vì đã kiểm tra kỹ, nhưng điều đó khiến tôi tự hỏi về trách nhiệm pháp lý (lời người dịch: trách nhiệm pháp lý của OpenAI khi đưa ra lời khuyên sai)
u/FactoryProgram
Câu trả lời thực sự là họ không quan tâm. Lợi nhuận ngắn hạn là tất cả những gì quan trọng. Khi các vấn đề phát sinh, họ sẽ nhảy tàu với số tiền nhiều hơn bất kỳ nhu cầu nào của con người và đó là vấn đề của người tiếp theo phải giải quyết.
u/chance909
Là một người làm việc với AI (Phó Chủ tịch R&D tại một công ty công nghệ y tế), tôi không nghĩ rằng các giám đốc điều hành hoặc nhà đầu tư có bất kỳ ý tưởng nào về những gì mong đợi từ công nghệ AI. Đối với họ, nó chỉ là một chiếc hộp ma thuật tốt hơn đáng ngạc nhiên so với những gì họ nghĩ.
Những điều hiện tại mà AI thực sự giỏi không phải là tất cả mọi thứ trên đời, như những lời quảng cáo rầm rộ, mà đúng hơn là:
- Tạo văn bản, hình ảnh và bây giờ là video
- Trò chuyện dựa trên dữ liệu huấn luyện từ internet
- Tìm kiếm sự vật trong hình ảnh và video (Phân loại, Phân đoạn, Phát hiện đối tượng)
Các nhu cầu kinh doanh chính mà bạn đã thấy được giải quyết là trong hỗ trợ khách hàng, đối với LLM, hoặc trong thị giác máy tính cho sản xuất. Ngoài 3 lĩnh vực này, tính hữu ích của “AI” chủ yếu là mang tính suy đoán, và thường có sự không phù hợp giữa phép màu được bán cho các nhà đầu tư và công nghệ thực tế.
r/WillSen
Vâng, tôi không thực sự muốn trích dẫn cuộc trò chuyện về sự mơ hồ của AI vì nó đúng là như thế, nhưng họ đã đề cập đến một thống kê từ McKinsey (có vẻ rất mơ hồ) rằng 85% dự án AI không mang lại giá trị kinh doanh nào.
Câu hỏi mà tôi đã hỏi trong phiên họp là “Vậy điều gì còn thiếu” – điều mà tôi nghĩ là loại thông tin chi tiết mà bạn đang cung cấp ở trên. Có nhiều thông tin chi tiết hơn trong một bài đăng của bạn so với một giờ trò chuyện từ những người chưa đầu tư thời gian để tìm hiểu công nghệ – Tôi sẽ không đề cập đến công ty tôi đang làm việc, nhưng tôi chỉ ước có nhiều nhà lãnh đạo hơn đầu tư thời gian để thực sự hiểu công nghệ – và tôi hy vọng bạn sẽ được thăng chức từ Phó Chủ tịch R&D lên CEO/CFO trong tương lai.
u/Tazling
Có bất kỳ cuộc thảo luận nào về các lỗi như ‘ảo giác’ và sự cố nổi tiếng về thức ăn cho chó không? Hay vấn đề nội dung do AI tạo ra được đưa trở lại vào đầu vào đào tạo?
(Lời người dịch: nguyên văn là the famous dog-food meltdown. Đây có thể là sự kiện “Ketchup Karen”, liên quan đến một người phụ nữ tên là Tammy, người đã có một cơn giận dữ tại McDonald’s khi cô phàn nàn về lượng ketchup trên hamburger của mình. Tammy đã yêu cầu thêm ketchup nhưng cảm thấy rằng nhân viên đã cho quá nhiều. Sau sự kiện, thông tin tiết lộ rằng Tammy đang thực hiện một chế độ ăn kiêng rất đặc biệt, trong đó cô chủ yếu ăn thức ăn cho chó. Cô gọi bữa ăn tại McDonald’s là “bữa ăn gian lận” (cheat meal) từ chế độ ăn này.)
u/WillSen
Đúng vậy – Herman Hauser (đồng sáng lập ARM – công ty công nghệ châu Âu trị giá hơn 50 tỷ đô la) hiện là một nhà đầu tư mạo hiểm lớn – ông ấy vừa đầu tư vào một công ty LLM tích hợp các quy tắc logic trực tiếp vào sản phẩm để giảm ảo giác.
Giám đốc điều hành của OpenAI cho biết ảo giác đã giảm đáng kể nhưng đó chỉ là vài tuần sau sự kiện dâu tây (viết đúng chính tả thật khó…)
(lời người dịch: nguyên văn là strawberry-gate: có thể là một mô hình ngôn ngữ lớn mà OpenAI đã phát triển trong thời gian gần đây – GPT 4o)
u/Tazling
Cảm ơn! Rất vui vì ít nhất họ cũng đang nói về điều đó.
‘Ảo giác đã giảm đáng kể’ không phải là sự đảm bảo…
Nếu chúng ta đang nói về việc giao phó các chức năng quan trọng – chứ đừng nói đến các chức năng an toàn công cộng – cho phần mềm AI, thì chỉ cần một ảo giác thôi cũng là quá nhiều.
Nếu một NPC (lời người dịch: Non-Player Character, nghĩa là nhân vật không phải người chơi) trong trò chơi đột nhiên lảm nhảm vô nghĩa hoặc cố gắng đấu tay đôi với một draugr (lời người dịch: là một sinh vật bất tử trong huyền thoại Bắc Âu, thường được miêu tả như một xác chết sống lại từ mồ mả, có nhiệm vụ bảo vệ kho báu mà chúng được chôn cùng.) bằng một chiếc bánh mì baguette, thì đó chỉ là trò cười… Nhưng tôi thực sự không muốn những ý kiến pháp lý, lời khuyên y tế, nghiên cứu dược phẩm hoặc phương tiện tự hành của AI gặp phải khoảnh khắc thức ăn cho chó hoặc dâu tây… Câu hỏi ám ảnh tôi là, làm thế nào để chúng ta thực hiện kiểm tra có ý nghĩa trên những thuật toán phức tạp đến mức điên rồ này?
u/WillSen
Cảm ơn BẠN vì phản hồi tuyệt vời và kích thích tư duy. Được rồi, để đưa ra quan điểm thay thế (mà tôi đang lấy từ một người tên là Quyên (tôi sẽ không chia sẻ tên đầy đủ của cô ấy) đã hỏi Herman Hauser chính xác câu hỏi này) – bạn có đang bỏ lỡ ‘lợi thế’ của LLM nếu bạn cố gắng tích hợp logic không… ‘mô hình’ vốn dĩ là xác suất (bạn thậm chí có thể gọi nó là ‘sắc thái’) và đó là lý do tại sao nó có thể hoạt động trên những thứ như tư vấn pháp lý (mà không có câu lệnh if-else nào có thể xử lý được).
Tôi nghĩ thật thú vị khi phản hồi của Hermann là chỉ ra các quyết định chính trị phi logic (ông ấy đã nói về Brexit) và nói rằng có lẽ chúng ta có thể cải thiện những điều này.
Tôi hiểu điều đó – ông ấy là một nhà vật lý đẳng cấp thế giới – nhưng khi phần mềm tích hợp sự không chắc chắn, nó đang nắm bắt rất nhiều thứ của thế giới chúng ta – không chắc chắn (mà trước đây nó không thể nắm bắt được)
Dù sao thì ảo giác vẫn còn tệ – nhưng nó gắn liền với bản chất xác suất nội tại của mô hình – và đó có thể là một điều tốt.
u/Tazling
Ảo giác là điều duy nhất còn lại để chúng ta với tư cách là con người không chỉ chấp nhận kết quả, mà còn hiểu và xác minh chúng. LLM được thiết kế để hỗ trợ chứ không phải để suy nghĩ.
u/WillSen
Đúng vậy, nhưng nó nói lên sự thiếu ý định sâu sắc hơn từ AI (tôi không thể tin rằng tôi sẽ gọi nó là ‘linh hồn’) – cho đến khi điều đó có trong máy móc, chúng ta vẫn có lợi thế đó, nhưng đó là điều cuối cùng
u/Tazling
Xã hội và nền kinh tế của chúng ta được cấu trúc theo cách mà ai đó đang nghiên cứu một chủ đề cụ thể, chuyên về ngành này và cung cấp kiến thức và công việc của họ trong lĩnh vực đó. Không ai có thể học hỏi và hiểu hết mọi thứ. Đó là cách nền kinh tế của chúng ta hoạt động.
(còn tiếp)
Link audio:
Link Youtube:
Bài gốc: https://www.reddit.com/r/technology/comments/1fufbfm/im_a_tech_ceo_at_the_berlin_global_dialogue_w/
