Chung

AI này biết chính xác bạn có thể phân biệt chủng tộc và phân biệt giới tính như thế nào

AI này biết chính xác bạn có thể phân biệt chủng tộc và phân biệt giới tính như thế nào


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Đối với nhiều nhà đổi mới, công nghệ đóng vai trò như một cách để thu hẹp khoảng cách giữa các chênh lệch khác nhau. Điều này tiếp tục chuyển sang lĩnh vực trí tuệ nhân tạo. Các thuật toán thuê mướn về mặt lý thuyết sẽ loại bỏ thành kiến ​​và cho phụ nữ và nam giới thuộc mọi chủng tộc cơ hội bình đẳng trong công việc. Rốt cuộc, đó là một robot chứ không phải con người. Điều này thậm chí có thể áp dụng cho việc trị an, vì một số dân tộc thiểu số thường phải hứng chịu gánh nặng của lực lượng cảnh sát quá mức trên toàn thế giới.

AI có thể tiếp thu các định kiến ​​của chúng ta tốt như thế nào

Trong những năm gần đây, AI ngày càng trở nên giống con người nhờ vào việc học máy nhanh hơn. Tuy nhiên, cơ sở thông tin rộng hơn đó có thể dẫn đến việc AI có được lượng suy nghĩ lớn hơn của con người - bao gồm cả thành kiến ​​của chúng ta.

[Nguồn ảnh: Pixabay]

Các nhà nghiên cứu đã quyết định đưa kết nối này vào thử nghiệm để xem AI có thể tiếp nhận các định kiến ​​của chúng ta tốt như thế nào. Nhóm nghiên cứu bao gồm các nhà nghiên cứu từ khắp nơi trên thế giới, bao gồm một số từ Đại học Princeton.

Đồng tác giả của nghiên cứu, Joanna Bryson, cho biết: “Đừng nghĩ rằng AI là bà tiên đỡ đầu. Bryson là một nhà khoa học máy tính tại Đại học Bath ở Vương quốc Anh và Đại học Princeton. "AI chỉ là một phần mở rộng của nền văn hóa hiện có của chúng ta."

Kiểm tra liên kết từ

Nhóm nghiên cứu đã tìm thấy nguồn cảm hứng trong tâm lý học từ trước. Họ đã xem xét các bài kiểm tra liên kết ngầm (IAT). Trong IAT, một từ xuất hiện nhanh chóng trên màn hình và sau đó tốc độ mọi người phản ứng với từ đó sẽ khám phá ra các liên kết tiềm thức của họ. Các IAT trước đây đã phát hiện ra rằng những cái tên như "Brad" và "Courtney" được kết hợp với những từ tích cực như "happy". Tuy nhiên, những cái tên liên quan đến cộng đồng màu sắc có liên quan tiêu cực hơn.

Nhóm đã phát triển một hệ thống AI với phong cách liên kết tương tự. Bryson và các đồng nghiệp của cô gọi nó là phép thử liên kết nhúng từ (WEAT). Họ bắt đầu với việc xác định một từ dựa trên ngữ cảnh mà từ đó được sử dụng. Ví dụ: "đá" và "hơi" sẽ có cách nhúng tương tự do chúng thường xuyên được sử dụng với "nước". Tuy nhiên, do máy tính coi những từ này là một loạt các số 0 và một, nó hơi khác so với cách hiểu trực quan của con người về các cặp từ nhất định.

[Nguồn ảnh: Pixabay]

Arvind Narayanan, một nhà khoa học máy tính tại Đại học Princeton cho biết: “Một lý do chính mà chúng tôi chọn để nghiên cứu phương pháp nhúng từ là chúng đã thành công ngoạn mục trong vài năm gần đây trong việc giúp máy tính hiểu được ngôn ngữ”.

Bài báo chỉ ra rằng mặc dù các liên tưởng từ thông thường có thể mang tính thống kê và logic, nhưng những thành kiến ​​rắc rối hơn vẫn có thể len ​​lỏi vào. Những từ như "phụ nữ" được liên kết với nhân văn và các vật dụng trong nhà. "Nam" và "đàn ông" bắt gặp liên kết với toán học và khoa học.

Công cụ học máy được phát triển bởi các nhà nghiên cứu được đào tạo trên kho ngữ liệu "thu thập thông tin chung". Điều này mất hàng tỷ từ từ các tài liệu được xuất bản trực tuyến. Nó cũng được đào tạo về dữ liệu từ Google Tin tức. Đối với đội, kết quả không quá bất ngờ.

Sandra Wachter, nhà nghiên cứu đạo đức dữ liệu và thuật toán tại Oxford cho biết "Thế giới đang thiên vị, dữ liệu lịch sử bị sai lệch, do đó không có gì ngạc nhiên khi chúng tôi nhận được kết quả thiên vị."

Bryson cũng lưu ý trong một cuộc phỏng vấn với người giám hộ rằng "nhiều người đang nói rằng điều này cho thấy AI đang có thành kiến. Không. Điều này cho thấy chúng ta đang có định kiến ​​và AI đang học điều đó."

Hệ thống máy học này chắc chắn có thể gọi chúng tôi về lỗi của chúng tôi, nhưng liệu điều này có khiến bất kỳ AI nào vốn có phân biệt chủng tộc hoặc phân biệt giới tính không? Nhóm nghiên cứu không nghĩ như vậy. Trong khi con người có thể nói dối về lý do không thuê ai đó, thì một thuật toán không thể. Các con số và thông tin được xử lý thông qua nó, mặc dù rất lớn, nhưng vẫn loại bỏ cảm giác và định kiến ​​đã học khỏi hệ thống của nó.

Các phát hiện đã được công bố trong số tháng 4 của Khoa học tạp chí.

HÃY XEM CŨNG: Liệu Trí tuệ nhân tạo có đánh dấu sự kết thúc cho Trí tuệ con người?


Xem video: ERIK - Em Không Sai, Chúng Ta Sai Official MV (Tháng Sáu 2022).


Bình luận:

  1. Nichol

    the same were already considering recently

  2. Matei

    Nó không tiếp cận tôi. Có lẽ vẫn còn có các biến thể?

  3. Adlar

    Và phải làm gì trong trường hợp này?

  4. Renfrid

    Tôi đồng ý với tất cả mọi thứ trên mỗi đã nói. Chúng tôi sẽ xem xét câu hỏi này.

  5. Domhnall

    Câu trả lời có thẩm quyền, vui vẻ ...

  6. Costel

    Chắc chắn. Tôi đồng ý với tất cả những người nói ở trên. Chúng ta có thể nói về chủ đề này.

  7. Platt

    interestingly, but the analogue is?



Viết một tin nhắn