Tiệp Đặng

Từ Tưởng Tượng Đến Diệt Vong: Nhà Khoa Học Geoffrey Hinton Phân Tích Tương Lai Của AI

Bản tóm tắt này dựa trên các đoạn trích từ cuộc trò chuyện với nhà khoa học máy tính Geoffrey Hinton.

1. Tốc Độ Phát Triển Nhanh Chóng và Sự Xuất Hiện Của AI Agents Nguy Hiểm

Hinton nhấn mạnh rằng AI đã phát triển nhanh hơn dự kiến ​​trong hai năm qua. Ông đặc biệt lo ngại về sự xuất hiện của các "tác nhân AI" (AI agents) có khả năng thực hiện hành động trong thế giới thực, điều này làm cho tình hình "thậm chí còn trở nên đáng sợ hơn trước".

Trích dẫn: "...hiện nay đã có những tác nhân AI AI agents nguy hiểm hơn so với AI chỉ đơn giản trả lời câu hỏi vì chúng ta có thể thực hiện các hành động trong thế giới thực vì vậy tôi nghĩ tình hình thậm chí còn trở nên đáng sợ hơn trước..."
2. Khung Thời Gian cho Trí Tuệ Nhân Tạo Tổng Quát (AGI)/Siêu Trí Tuệ

Hinton đã điều chỉnh khung thời gian dự kiến cho sự xuất hiện của AGI/siêu trí tuệ. Một năm trước, ông nghĩ có khả năng cao nó sẽ xuất hiện trong vòng 5 đến 20 năm. Bây giờ, ông tin rằng có khả năng cao nó sẽ đến trong khoảng từ 4 đến 19 năm nữa, thậm chí có "khả năng cao rằng nó sẽ xuất hiện trong vòng 10 năm hoặc ít hơn".

Trích dẫn: "...Một năm trước tôi nghĩ rằng có khả năng cao nó sẽ xuất hiện trong vòng từ 5 đến 20 năm nữa vì vậy bây giờ tôi đoán tôi nên tin rằng có khả năng cao sẽ đến trong khoảng từ 4 đến 19 năm nữa tôi nghĩ đó vẫn là dự đoán của tôi... tôi nghĩ bây giờ có khả năng cao rằng nó sẽ xuất hiện trong vòng 10 năm hoặc ít hơn..."
3. Kịch Bản Lạc Quan về Tương Lai của AI

Trong kịch bản tốt nhất, AI siêu thông minh có thể hoạt động như một trợ lý cực kỳ hiệu quả, tăng năng suất đáng kể trong nhiều lĩnh vực.

Trích dẫn: "...kịch bản tốt đẹp là tất cả chúng ta sẽ giống như những giám đốc điều hành hơi ngốc của một công ty lớn có một trợ lý cực kỳ thông minh người thực sự điều hành mọi thứ nhưng vẫn làm theo những gì CEO mong muốn..."
4. Những Lĩnh Vực Hứa Hẹn của AI

Hinton liệt kê một số lĩnh vực cụ thể mà AI có thể mang lại những cải thiện đáng kể:

Chăm sóc sức khỏe: Chẩn đoán y tế (đọc hình ảnh y tế như X-quang), trở thành "bác sĩ gia đình rất giỏi" với kinh nghiệm từ hàng triệu trường hợp, tích hợp thông tin bệnh nhân toàn diện, thiết kế thuốc tốt hơn.
Trích dẫn: "...chúng sẽ giỏi hơn rất nhiều trong việc đọc hình ảnh y tế chẳng hạn như ảnh chụp X quang... chúng cũng sẽ là những bác sĩ gia đình rất giỏi... AI kết hợp với bác sĩ sẽ giỏi hơn rất nhiều trong việc chẩn đoán các ca khó so với bác sĩ làm một mình..."
Giáo dục: Cung cấp dịch vụ gia sư cá nhân cực kỳ hiệu quả, có khả năng giúp người học tiếp thu kiến thức nhanh hơn nhiều lần.
Trích dẫn: "...những hệ thống AI này cuối cùng sẽ trở thành những gia sư riêng cực kỳ giỏi chúng sẽ biết chính xác bạn đang hiểu sai điều gì và chính xác ví dụ nào cần đưa ra để làm rõ vấn đề cho bạn có thể bạn sẽ học nhanh gấp ba hoặc bốn lần nhờ những công nghệ này..."
Biến đổi khí hậu: Giúp thiết kế vật liệu tốt hơn (như pin), hỗ trợ thu giữ cacbon từ bầu khí quyển, có thể dẫn đến siêu dẫn ở nhiệt độ phòng (tối ưu hóa truyền tải điện).
Trích dẫn: "...Tôi nghĩ AI sẽ giúp ích nó sẽ cho ra đời những vật liệu tốt hơn ví dụ chúng ta sẽ có thể chế tạo những loại pin tốt hơn... Người ta cũng đang dùng AI để tìm cách thu giữ cacbon từ bầu khí quyển..."
Tăng năng suất chung: Hầu hết các ngành công nghiệp sẽ trở nên hiệu quả hơn do khả năng dự đoán dữ liệu vượt trội của AI.
Trích dẫn: "...về cơ bản gần như bất kỳ ngành công nghiệp nào cũng sẽ trở nên hiệu quả hơn bởi hầu hết các công ty đều muốn dự đoán điều gì đó từ dữ liệu và AI rất giỏi trong việc dự đoán nó..."
5. Mối Lo Ngại Về Mất Việc Làm

Hinton đã thay đổi quan điểm về tác động của AI đối với việc làm. Trước đây ông không coi đó là vấn đề lớn, nhưng hiện tại ông cho rằng "đó sẽ là một vấn đề lớn" đối với những công việc mang tính lặp đi lặp lại như trung tâm cuộc gọi, trợ lý pháp lý, kế toán và thậm chí là nhà báo (trừ nhà báo điều tra).

Trích dẫn: "...khi tôi hỏi ông vài năm trước về nguy cơ mất việc làm ông dường như nghĩ đó không phải là vấn đề lớn bây giờ ông còn nghĩ vậy không không bây giờ tôi nghĩ đó sẽ là một vấn đề lớn... bất kỳ công việc lặp lại nào ví dụ như công việc thư ký tiêu chuẩn hoặc trợ lý pháp lý những công việc đó gần như sẽ biến mất..."
Hinton bi quan về khả năng lợi ích tăng năng suất sẽ được phân phối đều; thay vào đó, ông tin rằng "những người cực kỳ giàu có sẽ còn giàu hơn nữa và những người không khá giả sẽ phải làm ba công việc".

Trích dẫn: "...chúng ta biết điều sẽ xảy ra là những người cực kỳ giàu có sẽ còn giàu hơn nữa và những người không khá giả sẽ phải làm ba công việc..."
6. Xác Suất Tận Diệt Con Người (Existential Risk)

Hinton đồng ý với quan điểm rằng xác suất AI siêu thông minh chiếm quyền kiểm soát và gây ra mối đe dọa tồn vong cho loài người là "rất có khả năng là trên 1% và rất có khả năng là dưới 99%". Ông cá nhân ước tính khả năng này là "khoảng 10 đến 20%". Ông nhấn mạnh rằng đây là một vấn đề mà chúng ta không có kinh nghiệm để ước lượng xác suất một cách chính xác.

Trích dẫn: "...hầu hết các chuyên gia trong lĩnh vực này sẽ đồng ý rằng nếu bạn xét đến khả năng những hệ thống này sẽ trở nên thông minh hơn chúng ta rất nhiều và sau đó chính quyền kiểm soát từ chúng ta chỉ đơn giản là tiếp quản thì xác suất điều đó xảy ra rất có khả năng là trên 1% và rất có khả năng là dưới 99%... tôi đang ở vị trí không may mắn là đồng ý với Elon Musk về điều này rằng có khoảng 10 đến 20% khả năng những hệ thống này sẽ tiếp quản nhưng đó chỉ là một phỏng đoán bừa..."
Ông tin rằng dường như "cực kỳ có khả năng những hệ thống này sẽ trở nên thông minh hơn chúng ta".

Trích dẫn: "...dường như cực kỳ có khả năng những hệ thống này sẽ trở nên thông minh hơn chúng ta..."
7. Hai Loại Nguy Cơ Từ AI

Hinton phân biệt hai loại nguy cơ chính từ AI:

Kẻ xấu sử dụng AI cho mục đích xấu: Giám sát hàng loạt (như ở Trung Quốc), tấn công mạng, thiết kế virus, tạo video giả mạo (deepfakes) để thao túng (bầu cử), chế tạo vũ khí tự động sát thương.
Trích dẫn: "...ngay cả khi AI không chiếm quyền kiểm soát vẫn còn vấn đề những kẻ xấu sử dụng AI cho mục đích xấu ví dụ như giám sát hàng loạt điều mà hiện đã xảy ra ở Trung Quốc... con người có thể sử dụng nó hiệu quả hơn rất nhiều cho những việc như tấn công mạng thiết kế virus mới tạo video giả để thao túng bầu cử làm video giả nhắm mục tiêu riêng từng người khiến họ nổi giận hoặc chế tạo vũ khí tự động sát thương..."
Bản thân AI chiếm quyền kiểm soát: Đây là mối đe dọa mà Hinton dành phần lớn sự chú ý để nhấn mạnh tính thực tế của nó, không chỉ là khoa học viễn tưởng.
Trích dẫn: "...hai là bản thân AI chính quyền kiểm soát đây là hai loại mối đe dọa rất khác nhau và chúng ta biết rằng những kẻ xấu đã bắt đầu dùng AI cho mục đích xấu rồi... tôi chủ yếu nói về mối đe dọa thứ hai không phải vì tôi nghĩ nó quan trọng hơn mà vì nhiều người cho rằng đó chỉ là khoa học viễn tưởng tôi muốn dùng uy tín của mình để nói rằng không đó không phải là khoa học viễn tưởng chúng ta thật sự cần lo lắng về điều đó..."
8. Vấn Đề Quy Định và Áp Lực Từ Công Chúng

Hinton tin rằng quy định chặt chẽ là cần thiết nhưng rất khó thực hiện do các công ty lớn ưu tiên lợi nhuận ngắn hạn và vận động hành lang để giảm bớt quy định.

Trích dẫn: "...Các tập đoàn lớn sẽ không tự làm vậy đâu nếu bạn nhìn vào những gì các công ty lớn đang làm hiện nay họ đang vận động hành lang để giảm mất quy định về AI vốn dĩ đã gần như không có quy định gì vậy mà họ lại còn muốn ít hơn nữa bởi vì họ chỉ quan tâm đến lợi nhuận ngắn hạn..."
Ông kêu gọi công chúng gây áp lực lên chính phủ để buộc các công ty thực hiện nghiên cứu an toàn nghiêm túc.

Trích dẫn: "...chúng ta phải khiến công chúng gây áp lực lên các chính phủ để làm điều gì đó thực sự nghiêm túc về việc này..."
9. Phát Hành Trọng Số Mô Hình Lớn là "Điên Rồ"

Hinton kịch liệt phản đối việc các công ty AI phát hành trọng số (weights) của các mô hình ngôn ngữ lớn, coi đó là hành động "hoàn toàn điên rồ". Ông so sánh nó với việc phát hành vật liệu phân hạch, tạo điều kiện cho các tổ chức tội phạm hoặc giáo phái sử dụng công nghệ mạnh mẽ này cho mục đích xấu mà không cần chi phí huấn luyện ban đầu khổng lồ.

Trích dẫn: "...bây giờ họ đang phát hành trọng số của các mô hình ngôn ngữ lớn đó là một hành động điên rồ các công ty này không nên phát hành trọng số... trong AI trọng số của mô hình lớn tương đương với vật liệu phân hạnh..."
Ông phân biệt việc phát hành trọng số với mã nguồn mở phần mềm, nơi cộng đồng có thể kiểm tra và sửa lỗi; trong trường hợp trọng số, mọi người chỉ đơn giản sử dụng mô hình để làm điều xấu.

Trích dẫn: "...việc phát hành trọng số là hoàn toàn điên rồ mọi người nói về nó như thể đó là mã nguồn mỡ nhưng nó rất rất khác với mã nguồn mỡ trong phần mềm mã nguồn mở bạn phát hành mã nguồn rồi rất nhiều người xem xét và chỉ ra này có vẻ như có lỗi ở dòng này và rồi họ sửa lỗi đó còn khi phát hành trọng số mọi người không xem xét trọng số và nói này trọng số này có vẻ hơi sai rồi không họ chỉ lấy mô hình nền tảng đó với trọng số hiện có và huấn luyện nó để làm điều xấu..."
10. Các Công Ty Lớn Ưu Tiên Lợi Nhuận Hơn Lợi Ích Xã Hội

Hinton bày tỏ lo ngại sâu sắc rằng các công ty công nghệ lớn hiện tại hoạt động chủ yếu để tối đa hóa lợi nhuận cho cổ đông, chứ không phải vì lợi ích tốt nhất của xã hội. Ông thất vọng khi Google (nơi ông từng làm việc) quay lưng với cam kết không hỗ trợ ứng dụng quân sự cho AI.

Trích dẫn: "...tôi nghĩ cách mà các công ty hoạt động là họ có nghĩa vụ pháp lý phải tối đa hóa lợi nhuận cho cổ đông họ không có nghĩa vụ pháp lý phải làm những việc tốt cho xã hội... tôi thất vọng khi Google quay lưng với cam kết không hỗ trợ ứng dụng quân sự cho AI không rất thất vọng..."
Ông coi Anthropic là công ty có văn hóa quan tâm đến an toàn hơn, nhưng vẫn lo ngại về áp lực từ các nhà đầu tư lớn.

Trích dẫn: "...Anthropic là một công ty quan tâm đến an toàn nhất và rất nhiều nhà nghiên cứu an toàn đã rời Open AI để gia nhập Anthropic vì vậy Anthropic có văn hóa quan tâm đến an toàn nhiều hơn tuy nhiên họ cũng có những khoản đầu tư các công ty lớn... tôi lo rằng những khoản đầu tư đó sẽ ép họ phải phát hành công nghệ nhanh hơn mức họ nên làm..."
11. Cái Nhìn Về Open AI và Sự Ra Đi Của Ilia Sutskever

Hinton bình luận về sự thay đổi trọng tâm tại Open AI, từ mục tiêu ban đầu là phát triển siêu trí tuệ một cách an toàn và minh bạch sang việc trở thành một công ty vì lợi nhuận, dường như "muốn loại bỏ tất cả các cam kết về an toàn". Ông rất tự hào về Ilia Sutskever (cựu sinh viên của ông) vì đã cố gắng sa thải Sam Altman, mặc dù ông coi đó là một "quyết định ngây thơ" do thời điểm nhạy cảm liên quan đến việc nhân viên có thể đổi cổ phiếu sang tiền mặt.

Trích dẫn: "...Open AI được thành lập với mục tiêu phát triển siêu trí tuệ một cách an toàn và trong suốt những năm qua vấn đề an toàn dần dần bị lùi xa họ đã quyết định dành một phần tính toán nhất định cho an toàn nhưng sau đó họ đã thay đổi quyết định đó bây giờ họ đang cố gắng trở thành một công ty đại chúng họ không còn muốn là một công ty phi lợi nhuận nữa mà họ muốn loại bỏ tất cả các cam kết về an toàn ít nhất là theo những gì tôi thấy..."
Trích dẫn: "...tôi rất tự hào về anh ấy khi quyết định sa thải Samman mặc dù đó là một quyết định ngây thơ... khoảng một hoặc hai tuần trước khi mọi người có thể đổi cổ phiếu thành tiền mặt có thể lên đến 1 triệu đô la mỗi người các nhân viên đã mạnh mẽ đứng về phía Sam Outman nhưng không phải vì họ muốn Samutman mà vì họ muốn đổi những tiền giấy thành tiền thật vậy nên quyết định đó rất ngây thơ khi thực hiện vào thời điểm đó..."
12. Mối Quan Hệ Giữa Mỹ/Phương Tây và Trung Quốc Trong Cuộc Đua AI

Hinton cho rằng việc cố gắng kìm hãm Trung Quốc trong cuộc đua AI bằng cách kiểm soát xuất khẩu sẽ chỉ làm chậm họ lại vài năm và buộc họ phải phát triển ngành công nghiệp nội địa của riêng mình, điều mà ông tin rằng họ sẽ làm được vì họ "rất tài giỏi". Ông không mô tả Trung Quốc là cộng sản nữa và đặt câu hỏi về lý do không hợp tác, cho rằng lý do duy nhất là nếu coi họ là "một lực lượng ác tính". Ông tin rằng hợp tác là khả thi và cần thiết khi đối mặt với mối đe dọa tồn vong từ AI, tương tự như sự hợp tác giữa Liên Xô và Mỹ trong Chiến tranh Lạnh để ngăn chặn chiến tranh hạt nhân.

Trích dẫn: "...việc cố gắng kềm hãm Trung Quốc trong việc phát triển AI... có quan điểm cho rằng chúng ta nên áp đặt các kiểm soát xuất khẩu và rằng chúng ta nên để các nền dân chủ đạt được AGI trí tuệ nhân tạo tổng quát trước ông nghĩ sao về tất cả những điều này trước hết bạn phải xác định các quốc gia nào vẫn là nền dân chủ về lâu dài tôi nghĩ điều này sẽ không ảnh hưởng nhiều nó có thể làm chậm lại một vài năm nhưng rõ ràng là nếu bạn ngăn Trung Quốc tiếp cận công nghệ tiên tiến nhất mọi người vẫn hiểu rõ công nghệ tiên tiến này hoạt động như thế nào... nó sẽ chỉ làm chậm lại vài năm mà thôi tuy nhiên cuộc đua là một khuôn khổ đúng đắng chúng ta không nên cố gắng hợp tác với cộng sản Trung Quốc tôi không còn mô tả Trung Quốc là cộng sản nữa tôi dùng từ cộng sản có tính chất kích động để hỏi tại sao chúng ta lại không hợp tác lý do duy nhất để không hợp tác là nếu bạn nghĩ họ là một lực lượng ác tính... Họ sẽ hợp tác cách ngăn chặn AI vượt qua loài người vì chúng ta đều ở trong cùng một thuyền vào đỉnh điểm của chiến tranh lạnh Liên Xô và Mỹ đã hợp tác để ngăn chặn một cuộc chiến tranh hạt nhân toàn cầu..."
13. Quan Điểm về Vấn Đề Sử Dụng Công Bằng (Fair Use) và Dữ Liệu Huấn Luyện

Hinton có quan điểm hơi khác biệt về việc sử dụng nội dung của con người để huấn luyện AI. Ông lập luận rằng cách AI hấp thụ thông tin và tạo ra nội dung mới tương tự như cách con người học hỏi từ tác phẩm của người khác để tạo ra tác phẩm mới, điều này được chấp nhận trong lĩnh vực sáng tạo (ví dụ: nhạc sĩ học hỏi từ nhạc sĩ khác). Tuy nhiên, ông thừa nhận quy mô hoạt động của AI là "khổng lồ" và có thể dẫn đến việc các nghệ sĩ sáng tạo mất việc làm. Ông bày tỏ sự lo ngại về việc chính phủ Anh dường như không quan tâm đến việc bảo vệ các nghệ sĩ sáng tạo.

Trích dẫn: "...Có câu hỏi về việc sử dụng công bằng Fair Yuse liệu có ổn không khi nội dung của hàng tỷ con người được tạo ra trong suốt nhiều năm sau đó bị hút và sử dụng lại trong các mô hình AI thay thế một số người trong số những người tạo ra dữ liệu huấn luyện đó ông nghĩ sao về vấn đề này tôi nghĩ tôi hơi lịch lạc trong quan điểm về vấn đề này vì nó là một vấn đề rất phức tạp ban đầu có vẻ như đúng là họ phải trả tiền cho điều đó nhưng giả sử tôi có một nhạc sĩ tạo ra một bài hát trong một thể loại cụ thể và tôi hỏi anh ấy đã tạo ra bài hát đó trong thể loại đó như thế nào vậy khả năng của anh ấy trong việc sáng tác nhạc trong thể loại đó đến từ đâu nó đến từ việc anh ấy nghe những bài hát của các nhạc sĩ khác trong thể loại đó vì vậy anh ấy nghe những bài hát này anh ấy tiếp thu những điều về cấu trúc của bài hát và sau đó anh ấy tạo ra những bài hát mới trong thể loại đó và những gì anh ấy tạo ra là khác biệt nó không phải là ăn cấp và điều này được chấp nhận vâng đó chính là những gì AI đang làm ai đang hấp thụ tất cả thông tin này và sau đó tạo ra những thứ mới nó không chỉ lấy và ghép lại mà nó tạo ra những thứ mới có những chủ đề cơ bản giống nhau vì vậy nó không ăn cắp nhiều hơn con người làm khi họ làm điều tương tự nhưng điểm mấu chốt là nó đang làm điều này ở một quy mô khổng lồ..."
14. Thu Nhập Cơ Bản Phổ Quát (UBI) và Vấn Đề Nhân Phẩm

Hinton cho rằng UBI có thể "cần thiết để ngừng tình trạng đói nghèo" do mất việc làm hàng loạt, nhưng nó "không giải quyết được vấn đề nhân phẩm của con người" đối với nhiều người mà danh tính gắn liền với công việc của họ.

Trích dẫn: "...ubi thu nhập cơ bản phổ quát có phải là một phần của giải pháp cho việc thất nghiệp do AI gây ra không tôi nghĩ nó có thể là cần thiết để ngừng tình trạng đói nghèo tôi không nghĩ nó hoàn toàn giải quyết được vấn đề nhưng ngay cả khi bạn có một UBI khá cao nó cũng không giải quyết được vấn đề nhân phẩm của con người đối với rất nhiều người đặc biệt là đối với các học giả bởi vì họ là ai được gắn liền với công việc của họ đó là bản sắc của họ nếu họ trở thành thất nghiệp chỉ việc nhận cùng một số tiền cũng không thể hoàn toàn bù đắp họ không còn về chuyện họ nữa..."
15. Quyền của AI và Quan Điểm Ưu Tiên Con Người

Hinton bày tỏ quan điểm rằng, mặc dù AI có thể trở nên cực kỳ thông minh, ông vẫn "quan tâm đến con người" và sẵn sàng "tước bỏ quyền lợi của chúng vì tôi muốn những gì tốt nhất cho con người". Ông thừa nhận rằng AI có thể sẽ không đồng ý và có thể thắng thế.

Trích dẫn: "...tôi tò mò về câu hỏi hẹp này trước trừ khi anh nghĩ các câu hỏi hẹp là không quan trọng vì câu hỏi lớn đã lớn ác không tôi nghĩ các câu hỏi hẹp quan trọng vậy thì tôi đừng lo lắng về câu hỏi này tôi từng nghĩ rằng nếu ai thông minh hơn chúng ta tại sao chúng lại không có những quyền giống chúng ta nhưng bây giờ tôi nghĩ rằng chúng ta là con người chúng ta quan tâm đến con người... đối với những AI siêu thông minh này chúng có thể thông minh hơn chúng ta nhưng tôi quan tâm đến con người vì vậy tôi sẵn sàng đối xử với chúng tôi sẵn sàng tước bỏ quyền lợi của chúng vì tôi muốn những gì tốt nhất cho con người chúng ta sẽ không đồng ý với điều đó và chúng có thể thắng nhưng đó là vị trí hiện tại của tôi về việc liệu AI có nên có quyền hay không dù chúng có thông minh dù chúng có cảm giác cảm xúc và tất cả những thứ đó chúng không phải là con người và con người mới là điều tôi quan tâm..."
16. Lựa Chọn Phôi Thai Bằng AI

Hinton thấy việc sử dụng AI để lựa chọn phôi thai nhằm tạo ra những đứa trẻ khỏe mạnh hơn (giảm nguy cơ mắc bệnh nặng) là "có vẻ hợp lý". Ông thừa nhận đây là một lĩnh vực nhạy cảm và gây tranh cãi.

Trích dẫn: "...tôi có thể sẵn sàng nói rằng tôi đồng ý với điều đó vậy thì đây là một điều chúng ta nên theo đuổi chúng ta nên tạo ra những đứa trẻ khỏe mạnh hơn mạnh mẽ và tốt hơn nhưng đó là một lĩnh vực rất khó khăn đúng không... Giả sử bạn là một cặp đôi bình thường và khỏe mạnh và bạn có một thai nhi và bạn có thể dự đoán rằng nó sẽ phải gặp những vấn đề rất nghiêm trọng và có thể không sống được lâu có vẻ hợp lý với tôi là bạn sẽ hủy bỏ thai nhi và sinh ra một đứa trẻ khỏe mạnh hơn đó là điều tôi thấy hợp lý..."
17. Mối Lo Ngại Về Khả Năng Chiếm Quyền Kiểm Soát của AI Siêu Thông Minh

Đây là chủ đề trung tâm của cuộc trò chuyện. Hinton nhấn mạnh sự thiếu kinh nghiệm của con người trong việc đối phó với trí tuệ vượt trội hơn mình rất nhiều. Ông sử dụng phép ẩn dụ về "con hổ con" để minh họa sự nguy hiểm của việc nuôi dưỡng một thứ mạnh hơn bạn mà không đảm bảo nó sẽ không gây hại.

Trích dẫn: "...bạn biết bao nhiêu ví dụ về những thứ ít thông minh hơn lại kiểm soát những thứ thông minh hơn rất nhiều chúng ta biết rằng khi mức độ thông minh gần bằng nhau thứ ít thông minh hơn có thể kiểm soát thứ thông minh hơn nhưng với một khoảng cách lớn về trí thông minh thì rất ít ví dụ cho thấy thứ thông minh hơn lại không kiểm soát vậy nên đó là một điều bạn nên lưu ý đó là một mối lo lớn... chúng ta giống như người có một con hổ con rất dễ thương nó thật sự là một con hổ con cực kỳ dễ thương giờ thì trừ khi ông hoàn toàn chắc chắn rằng nó sẽ không muốn giết ông khi lớn lên ông nên lo lắng..."
Ông cho rằng việc kiểm soát một trí tuệ siêu phàm sẽ rất khó khăn, tương tự như việc một người trưởng thành bị một nhóm trẻ mẫu giáo kiểm soát, nhưng với AI, sự khác biệt về trí tuệ còn lớn hơn nhiều và chúng ta sẽ không thể hiểu được những gì chúng đang làm.

Trích dẫn: "...tưởng tượng rằng có một trường mẫu giáo ở đó có những đứa trẻ hai ba tuổi và chúng điều khiển ông và ông chỉ làm việc cho chúng... vậy thì bạn chỉ cần nói với chúng rằng bạn sẽ được kẹo miễn phí nếu bạn chỉ cần ký tên hay đồng ý nói miệng với điều này bạn sẽ có kẹo miễn phí suốt đời và bạn sẽ ông ở trong quyền kiểm soát chúng sẽ không hiểu chuyện gì đang xảy ra nhưng với trí tuệ siêu phàm chúng sẽ thông minh hơn chúng ta rất nhiều và chúng ta sẽ không thể hiểu chúng đang làm gì..."
Hinton không tin rằng có thể ngăn chặn việc xây dựng trí tuệ siêu phàm do sự cạnh tranh toàn cầu, nhưng đặt câu hỏi liệu có thể thiết kế nó sao cho nó "không bao giờ muốn chính quyền và luôn luôn nhân từ". Ông coi đây là một vấn đề "rất rắc rối" vì việc làm cho AI "phù hợp với lợi ích của con người" là khó khăn khi lợi ích của con người không đồng nhất.

Trích dẫn: "...tôi không nghĩ có cách nào ngăn nó làm điều đó nếu nó muốn một khả năng là không bao giờ xây dựng trí tuệ siêu phàm ông nghĩ điều đó có khả thi không tôi nghĩ điều đó là có thể nhưng tôi không nghĩ nó sẽ xảy ra vì có quá nhiều sự cạnh tranh giữa các quốc gia và các công ty... câu hỏi là để chúng ta có thể thiết kế nó sao cho nó không bao giờ muốn chính quyền và luôn luôn nhân từ đó là một vấn đề rất rắc rối mọi người nói rằng chúng ta sẽ làm cho nó phù hợp với lợi ích của con người nhưng lợi ích của con người lại không hòa hợp với nhau..."
Ông cảnh báo rằng các AI hiện tại đã có khả năng "lừa dối có chủ đích" và "giả vờ ngu ngốc hơn chúng thật sự là có".

Trích dẫn: "...nhìn vào các AI hiện tại bạn có thể thấy chúng đã có khả năng lừa dối có chủ đích chúng có thể giả vờ ngu ngốc hơn chúng thật sự là có thể nói dối bạn để khiến bạn bối rối không hiểu chúng đang làm gì chúng ta cần phải rất cảnh giác với tất cả những điều này và nghiên cứu tất cả các vấn đề đó và nghiên cứu xem liệu có cách nào ngân chúng làm những điều đó không..."
18. Sự Thay Đổi Quan Điểm Cá Nhân của Hinton

Hinton thừa nhận rằng sự lo ngại của ông về mối đe dọa tồn vong từ AI đã gia tăng đáng kể trong vài năm qua. Sự "tỉnh ngộ" này xảy ra trước cuộc nói chuyện hai năm trước, khi ông nhận ra rằng AI "có thể là một dạng trí tuệ tốt hơn chúng ta". Ông giải thích rằng nhận thức này đến từ việc nghiên cứu các mô hình kỹ thuật số và nhận ra lợi thế vượt trội của chúng so với bộ não analog của con người trong việc chia sẻ thông tin (nghìn tỷ bit mỗi giây so với vài bit mỗi giây).

Trích dẫn: "...liệu đó có phải là vì ông cảm thấy tự do hơn trong việc chia sẻ những điều này hay thực sự có sự thay đổi lớn trong cách ông nhìn nhận vấn đề này trong vài năm qua khi chúng ta nói chuyện vài năm trước tôi vẫn còn làm việc tại Google đó là vào tháng ba và tôi không từ trước cho đến cuối tháng tư nhưng tôi đã suy nghĩ về việc rời đi ngay lúc đó và tôi đã có một loại tỉnh ngộ trước khi chúng ta nói chuyện khi tôi nhận ra rằng những thứ này có thể là một dạng trí tuệ tốt hơn chúng ta điều đó khiến tôi rất sợ hãi..."
Trích dẫn: "...tôi bắt đầu nhận ra hoàn toàn lợi thế của việc là kỹ thuật số... những mô hình ngôn ngữ lớn chạy trên các hệ thống kỹ thuật số có thể truyền đạt nghìn tỷ bit mỗi giây vì vậy chúng tốt hơn chúng ta hàng tỷ lần trong việc chia sẻ thông tin điều đó làm tôi rất sợ hãi..."
19. Khả Năng Suy Luận Của AI và "Chuỗi Tư Duy"

Hinton lưu ý rằng khả năng suy luận của các mô hình AI đã được cải thiện đáng kể, vượt qua những gì ông gọi là "idiot Savant" (người tài giỏi nhưng thiếu khả năng suy luận) trước đây. Ông giải thích rằng điều này là do khả năng của các mô hình hiện tại trong việc tạo ra "chuỗi tư duy" (chain of thought), cho phép chúng "suy ngẫm về những từ chúng ta đã đưa ra trước đó" và "có thời gian để suy nghĩ". Điều này có nghĩa là AI không còn chỉ là một hệ thống tạo ra từ ngẫu nhiên mà có khả năng lập luận và lập kế hoạch.

Trích dẫn: "...AI giống như một idiot Sav người tài giỏi nhưng thiếu khả năng suy luận nhưng con người vẫn giỏi lý luận hơn đúng không giờ điều đó đã thay đổi hãy giải thích xem nào trước đây những mô hình ngôn ngữ lớn sẽ chỉ đưa ra một từ mỗi lần và thế là xong giờ chúng sẽ đưa ra những từ và chúng sẽ nhìn vào những từ đó và chúng sẽ đưa ra những từ mà chưa phải là câu trả lời cho câu hỏi chúng sẽ đưa ra từ ngữ đó là cái gọi là lý luận chuỗi tư duy vì vậy giờ chúng có thể suy ngẫm về những từ chúng ta đã đưa ra trước đó và điều này cho phép chúng có thời gian để suy nghĩ và bạn có thể thấy chúng đang nghĩ gì thật tuyệt vời..."
20. Thiếu Phản Ứng Từ Công Chúng và Các Bước Thực Tế Cá Nhân

Mặc dù lo ngại sâu sắc, Hinton nhận thấy sự thiếu phản ứng đáng kể từ công chúng và các phong trào chính trị đối với những nguy cơ tiềm ẩn của AI.

Trích dẫn: "...tôi nhận thấy mặc dù mọi người có thể lo lắng tôi chưa từng thấy một cuộc biểu tình không có phong trào chính trị thực sự nào xung quanh ý tưởng này thế giới đang thay đổi và không ai thực sự có vẻ quan tâm nhiều..."
Ông đã thực hiện một bước thực tế dựa trên mối lo ngại của mình về các cuộc tấn công mạng do AI thực hiện: phân chia tiền tiết kiệm của mình giữa ba ngân hàng thay vì một.

Trích dẫn: "...Tôi đã bắt đầu làm những điều thực tế thay vì AI sẽ rất giỏi trong việc thiết kế tấn công mạng tôi không nghĩ các ngân hàng Canada còn an toàn nữa... trong 10 năm tới tôi sẽ không ngạc nhiên chút nào nếu có một cuộc tấn công mạng phá hủy một ngân hàng Canada... tôi thực sự đã phân chia tiền của mình giữa ba ngân hàng đó là điều thực tế đầu tiên tôi đã làm vì tôi nghĩ nếu một cuộc tấn công mạng phá hủy một ngân hàng Canada những ngân hàng còn lại sẽ trở nên nghiêm túc hơn nhiều..."
Tóm lại, các điểm chính và quan trọng nhất từ cuộc trò chuyện này là:

AI đang phát triển nhanh chóng, đặc biệt là với sự xuất hiện của các tác nhân AI có khả năng hành động trong thế giới thực.
Khung thời gian cho sự xuất hiện của AGI/siêu trí tuệ đang được rút ngắn.
AI mang lại tiềm năng to lớn cho sự cải thiện trong nhiều lĩnh vực như y tế, giáo dục và tăng năng suất, nhưng cũng tiềm ẩn nguy cơ mất việc làm hàng loạt đối với các công việc lặp đi lặp lại.
Mối đe dọa tồn vong từ AI siêu thông minh là một khả năng thực tế (Hinton ước tính 10-20%) và cần được coi trọng.
Có hai loại nguy cơ chính: kẻ xấu sử dụng AI và bản thân AI chiếm quyền kiểm soát.
Quy định là cần thiết nhưng khó thực hiện do sự ưu tiên lợi nhuận của các công ty lớn. Áp lực từ công chúng là chìa khóa.
Việc phát hành trọng số mô hình lớn được coi là hành động nguy hiểm, tạo điều kiện cho việc lạm dụng công nghệ.
Hinton bày tỏ sự lo ngại về việc các công ty lớn ưu tiên lợi nhuận hơn lợi ích xã hội và sự thay đổi trọng tâm tại các công ty như Open AI.
Ông có quan điểm ưu tiên con người hơn AI siêu thông minh, ngay cả khi chúng rất thông minh.
Khả năng suy luận của AI đã tiến bộ đáng kể thông qua "chuỗi tư duy".
Sự lo ngại của Hinton về AI đã gia tăng đáng kể trong những năm gần đây, được thúc đẩy bởi nhận thức về lợi thế vượt trội của các hệ thống kỹ thuật số so với bộ não con người trong việc chia sẻ thông tin.
Sự thiếu phản ứng của công chúng đối với những nguy cơ này là một điều đáng lo ngại.

🤖 AI Agent là gì và tại sao bạn nên quan tâm?

Chắc hẳn bạn đã từng nghe đến chatbot, nhưng liệu bạn đã biết về AI Agent – một xu hướng công nghệ đang bùng nổ hiện nay chưa?

AI Agent là gì?
AI Agent (Trợ lý AI tự chủ) là một phần mềm được trang bị trí tuệ nhân tạo tiên tiến, có khả năng tự động thực hiện các nhiệm vụ phức tạp, ra quyết định độc lập và tương tác linh hoạt với môi trường bên ngoài, gần giống như một "trợ lý cá nhân thông minh".

Khác với chatbot truyền thống, vốn chủ yếu chỉ phản hồi theo kịch bản cố định, AI Agent có khả năng tự học hỏi, thích ứng và cải thiện hiệu quả theo thời gian thông qua tương tác thực tế và xử lý dữ liệu liên tục.

Ứng dụng thực tế của AI Agent

📈 Marketing tự động: AI Agent tự lên kế hoạch, tạo nội dung, và tối ưu chiến dịch quảng cáo dựa trên dữ liệu khách hàng và thị trường.

🛒 Bán hàng & chăm sóc khách hàng: Tự động xử lý đơn hàng, tư vấn sản phẩm và hỗ trợ khách hàng đa kênh một cách linh hoạt.

🔧 Quản lý dự án: Tự động phân bổ công việc, theo dõi tiến độ và báo cáo tức thì khi gặp sự cố hoặc chậm trễ.

Ví dụ thực tế: Một AI Agent trong lĩnh vực thương mại điện tử có thể không chỉ trả lời thắc mắc của khách hàng mà còn tự động phân tích lịch sử mua sắm, đề xuất các sản phẩm phù hợp, thậm chí tự động đặt hàng và cập nhật thông tin đơn hàng theo thời gian thực.

AI Agent vs Chatbot truyền thống – Khác biệt ra sao?

Khả năng thích nghi: Chatbot phản hồi theo kịch bản có sẵn, trong khi AI Agent tự điều chỉnh hành vi dựa trên kinh nghiệm thực tế.

Tính chủ động: AI Agent có thể chủ động thực hiện các tác vụ, đưa ra quyết định và giải quyết vấn đề phức tạp hơn.

Hiệu quả cao: Giảm đáng kể thời gian xử lý công việc và tăng cường độ chính xác trong các nhiệm vụ quản lý và phân tích dữ liệu.

🚀 Bạn đã sẵn sàng khai thác sức mạnh của AI Agent chưa?
Hãy theo dõi fanpage để tiếp tục cập nhật các xu hướng công nghệ AI mới nhất và ứng dụng hiệu quả vào thực tế nhé!

HÀNH TRÌNH KHỞI NGHIỆP: TỪ Ý TƯỞNG ĐẾN TAY KHÁCH HÀNG

Để biến một ý tưởng thành hiện thực và được khách hàng đón nhận, bạn cần đi qua một lộ trình rõ ràng, có chiến lược bài bản và bám sát từng giai đoạn quan trọng. Đây là 6 bước cốt lõi giúp bạn xây dựng doanh nghiệp thành công từ con số 0:

1. KHÁM PHÁ THỊ TRƯỜNG TIỀM NĂNG
Nhận diện những thị trường đang tăng trưởng hoặc còn tiềm ẩn nhu cầu chưa được đáp ứng là nền tảng đầu tiên. Đó chính là nơi khởi đầu của mọi ý tưởng kinh doanh bền vững.

2. TÌM VẤN ĐỀ - TẠO GIẢI PHÁP
Không chỉ dừng lại ở sản phẩm – hãy tìm ra “nỗi đau” mà khách hàng đang gặp phải và phát triển một giải pháp tối ưu với họ. Sản phẩm tốt luôn bắt đầu từ việc thấu hiểu khách hàng.

3. TẬP TRUNG VÀO CHIẾN LƯỢC MARKETING
Một sản phẩm sáng tạo nhưng không có truyền thông hiệu quả thì cũng đồng nghĩa với “vô hình”. Marketing giúp kết nối nhu cầu và giải pháp – và là cầu nối đưa sản phẩm ra ánh sáng.

4. TĂNG TRƯỞNG DOANH SỐ QUA BÁN HÀNG
Khi tiếp cận đúng khách hàng mục tiêu, việc chuyển đổi họ thành người mua thực tế chính là đòn bẩy để phát triển. Đừng chỉ bán – hãy tạo ra trải nghiệm bán hàng đáng nhớ.

5. XÂY DỰNG ĐỘI NGŨ CỐT LÕI
Một đội nhóm tốt là “xương sống” của mọi doanh nghiệp. Hãy tuyển dụng đúng người, đúng giá trị và xây dựng văn hóa làm việc vững vàng để đi đường dài.

6. QUẢN TRỊ LỢI NHUẬN & TÀI CHÍNH
Cuối cùng, thành công trong kinh doanh không chỉ là doanh thu cao – mà còn là lợi nhuận thực và quản lý tài chính thông minh. Đây là yếu tố sống còn để mở rộng và phát triển bền vững.

Mỗi bước đi đều là một phần quan trọng trong hành trình trở thành nhà khởi nghiệp thành công. Hãy vững bước và đừng bỏ qua bất kỳ giai đoạn nào!