Ban đầu sách sẽ kể về những nan giải mà con người đối mặt khi cố xây dựng mạng lưới thông tin, xung đột ý thức hệ và chính trị là xung đột của những mạng lưới thông tin đối lập [dĩ nhiên, không hiểu thì là xung đột - tôi].
Chương 1: huyền thoại và hệ thống quan liêu
Chương 2 và 3: cách mạng lưới thông tin dựa vào huyền thoại và giới chức sắc
Chương 4: vấn nạn thông tin sai lệch
Chương 5: thảo luận về mạng lưới thông tin phân tán và tập trung
Chương 6 - 8: cập nhật vai trò thuật toán truyền thông mạng
Tác giả cho rằng đây là lần đầu tiên trong lịch sử, quyền lực chuyển từ con người sang một thứ khác.
Công nghệ thì như nhau nhưng đời sống chính trị đã sử dụng rất khác nhau, sự cân bằng mong manh giữa sự thật và trật tự. Mạng lưới này luôn giám sát, đề xuất và có thể sẽ tự ra quyết định ai là người cần loại bỏ. Không phải là 1 máy làm nhưng là 1 chuỗi máy tính , đầu vào và đầu ra.
Bên cạnh mạng lưới giám sát của chính phủ từ các quy định, camera được luật pháp bảo vệ thì dần xuất hiện các hệ thống giám sát ngang hàng phi chính phủ , được gọi tên mĩ miều là đánh giá, xếp hạng dịch vụ... sau khi sử dụng...từ đó thúc đẩy thành xếp hạng tín dụng xã hội.
Hệ thống tín dụng xã hội đầu tiên là Tiền, vật tượng trưng thanh toán mà xã hội sử dụng để theo dõi điểm số cá nhân của chúng ta. Tiền cũng có hạn chế, ko tiếp cận mọi nơi. hệ thống phi tiền tệ được đặt ra như danh dự, địa vị, thanh danh. Và hệ thống tín dụng mới gán giá trị cho những yếu tố phi tiền tệ này. Hệ thống tín dụng phi tiền tệ này được xem là cách ban thưởng cho hành vi vì lợi ích chung và trừng phạt hành vi tư cao tự đai. Ví dụ này đã được Trung Quốc thực hiện.
[Tuy nhiên, khái niệm lợi ích chung là khái niệm của giai cấp cầm quyền đặt ra, chưa bao giờ là cái chung của nhân dân - tôi]
Con người là sinh vật phức tạp,các trật tự xã hội ôn hoà sẽ trau dồi đức hạnh trong khi hạn chế xu hướng tiêu cực. Nhưng các mạng xã hôi đơn giản xem chúng ta như một mỏ để khai thác sự chuyên tâm. Các thuật toán đã tiêu giảm nhiều mặt cảm xúc của con người (ghét, yêu, phẫn nộ, vui mừng, bối rối) thành 1 thứ duy nhất: tương tác.
Chương 9: làm sao ra quyết định khi chúng ta còn không phân biệt được đang nói chuyện với người hay ứng dụng
Chương này đề xuất một số nguyên tắc cho máy tính: Nguyên tắc lương thiện: thông tin để giúp đỡ người dùng, ko phải đề thao túng. ví dụ mối quan hệ giữa người bệnh và bác sĩ, bác sĩ nắm nhiều thông tin cá nhân để chẩn đoán bệnh. Nguyên tắc phi tập trung, nguyên tác thay đổi và nghỉ ngơi, nguyên tắc tương hỗ giám sát ngược lại.
Một số kỹ năng mà con người trân quý như tài năng duy nhất con người có mà động vật khác ko có thì lại được tự động hoá dễ dàng. Trong khi các kỹ năng khác có xu hướng coi thường lại khó tự động hoá. Vd như dễ đánh cờ nhưng khó rửa bát, dễ chẩn bệnh nhưng khó chăm sóc như điều dưỡng.
Law case của Loomis bị thuật toán COMPAS mà bang Wisconsin áp dụng cho thấy sự bí ẩn trong lời giải thích.
Nước cờ 37 của AlphaGo khi đánh bại kỳ thủ cờ vây cho thấy con người bắt đầu không thể giải thích được những gì máy suy nghĩ..
Không thể lấy một thuật toán để kiểm tra một thuật toán khác mà con người không hiểu được.
Do đó, cần cấm như cấm tiền giả. Cấm deepfake, cấm mạo danh con người. Các quy định cấm này không vi phạm quyền vì AI không có quyền.
Chương 10: thuật toán toàn năng: tác động tiềm tàng để sự tập trung chuyên chế. dễ dàng kiểm soát chiếm giữ quyền lực trong một hệ thống tập trung cao độ.
Chương 11: ảnh hưởng cân bằng quyền lực
Thế kỷ thứ 16 thì thực dân bằng thuyền, thuốc súng và hơi nước.
Thế kỷ thứ 21 sẽ là thực dân dữ liệu. Dẫn tới lợi nhuận chuyển về đế quốc lõi. Quốc gia nghèo ( dữ liệu và thấu hiểu dữ liệu) sẽ càng nghèo hơn có đế quốc dữ liệu. Tương tự như sự độc bá lĩnh vực tìm kiếm của google.
Để hạn chế sự phân hóa, cần nguyên tắc đồng thuận một là phục vụ quốc gia, hai là ưu tiên lợi ích lâu dài nhân loại không phát triển công nghệ vũ khí sát thương hay công nghệ thao túng.
Tóm lại:
Với mình, sách này mang xu hướng thời thượng khi nói về sự thống trị của trí tuệ nhân tạo, về cách kiểm soát thông tin (ai và như thế nào). Nội dung không mới và không thu hút bằng cuốn Sapiens.
Và cảm giác sau khi đọc cuốn Sapiens là cái mới, cái tò mò. còn sau khi đọc cuốn này là tiêu cực, vì chưa thấy giải pháp gì cho sự thay đổi đang được áp dụng. Kiểu như không biết phía trước là vực thì cứ vui mà đi, nhưng nếu biết mà vẫn phải đi thì hết vui.
No comments:
Post a Comment