ในช่วงไม่กี่ปีที่ผ่านมา ระบบการจดจำรูปภาพที่ขับเคลื่อนด้วยคอมพิวเตอร์ซึ่งจดจำและจำแนกวัตถุที่เป็นมนุษย์โดยอัตโนมัติได้แพร่หลายมากขึ้น ระบบอัลกอริธึมเหล่านี้ถูกนำไปใช้ในการตั้งค่าต่างๆ ตั้งแต่การช่วยให้เว็บไซต์โซเชียลมีเดียบอกว่าผู้ใช้เป็นเจ้าของแมวหรือเจ้าของสุนัขไปจนถึงการระบุบุคคลในพื้นที่สาธารณะที่มีผู้คนพลุกพล่าน รูปแบบหนึ่งของปัญญาประดิษฐ์ที่เรียกว่าการเรียนรู้เชิงลึกเป็นพื้นฐานของระบบการจดจำภาพเหล่านี้ เช่นเดียวกับความพยายามด้านปัญญาประดิษฐ์อื่นๆ อีกมากมาย
เรียงความเกี่ยวกับบทเรียนที่เราได้เรียนรู้เกี่ยวกับ
ระบบการเรียนรู้เชิงลึกและการจดจำเพศ นี้ เป็นส่วนหนึ่งของการตรวจสอบปัญหาสามส่วนที่เกี่ยวข้องกับเทคโนโลยีการมองเห็นด้วยเครื่อง ดูสิ่งนี้ด้วย:
อินเตอร์แอคทีฟ: คอมพิวเตอร์ “เห็น” เพศได้อย่างไร โดยการครอบคลุมหรือ “ปกปิด” ส่วนต่างๆ ของภาพถ่ายใบหน้าของแต่ละคนอย่างเป็นระบบ แล้วใส่ภาพเหล่านั้นลงในแบบจำลองคอมพิวเตอร์ที่เราสร้างขึ้น เราสามารถเห็นได้ว่าองค์ประกอบใดของใบหน้าที่สำคัญที่สุดในการช่วยให้แบบจำลองจำแนกชายและหญิง เราสร้างคุณลักษณะเชิงโต้ตอบที่คุณสามารถสร้างการวิเคราะห์นั้นขึ้นมาใหม่และดูว่าการเปลี่ยนแปลงใดที่ทำให้อัลกอริทึมการเรียนรู้เชิงลึกของเราเปลี่ยนการคาดเดาเกี่ยวกับเพศของบุคคลในภาพ
แบบสำรวจความคิดเห็นของประชาชนเกี่ยวกับการจดจำใบหน้า ระบบจดจำใบหน้าที่สามารถระบุตัวตนของบุคคลจากภาพถ่ายหรือวิดีโอเป็นหนึ่งในการประยุกต์ใช้แมชชีนวิชั่นที่เป็นที่ถกเถียงกันมากขึ้น (แบบจำลองที่เราใช้สำหรับโครงการนี้สามารถจำแนกเพศได้ แต่ไม่สามารถระบุตัวบุคคลได้) เมื่อเร็วๆ นี้ Center ได้ทำการสำรวจความคิดเห็นของผู้ใหญ่ในสหรัฐฯ เพื่อตรวจสอบความคิดเห็นของสาธารณชนที่มีต่อเทคโนโลยีการจดจำใบหน้าและการใช้งานโดยผู้ลงโฆษณา การบังคับใช้กฎหมาย และอื่นๆ ดูรายงานของเราเกี่ยวกับการสำรวจนี้ที่นี่
ระบบการเรียนรู้เชิงลึกมักได้รับการ “ฝึกฝน” ให้ทำงานเหล่านี้โดยการนำเสนอด้วยรูปภาพ วัตถุ หรือสถานการณ์จำลองมากมายที่มนุษย์ได้ระบุว่า “ถูกต้อง” หรือ “ไม่ถูกต้อง” เมื่อดูตัวอย่างที่เพียงพอ ในที่สุดระบบเหล่านี้ก็สามารถเรียนรู้วิธีระบุวัตถุหรือสถานการณ์ที่ไม่มีป้ายกำกับที่พวกเขาไม่เคยพบมาก่อน ตัวอย่างที่มีป้ายกำกับเหล่านี้ซึ่งช่วยให้ระบบเรียนรู้เรียกว่า “ข้อมูลการฝึกอบรม” และมีบทบาทสำคัญในการกำหนดความแม่นยำโดยรวมของระบบเหล่านี้
ระบบเหล่านี้มีศักยภาพในการทำงานที่ซับซ้อนด้วยความเร็วและขนาดที่เกินขีดความสามารถของมนุษย์ แต่แตกต่างจากคนทั่วไป ระบบการเรียนรู้เชิงลึกไม่สามารถให้คำอธิบายหรือเหตุผลสำหรับการเลือกของแต่ละคนได้ และต่างจากโปรแกรมคอมพิวเตอร์ทั่วไปที่ทำตามขั้นตอนที่กำหนดไว้อย่างเข้มงวดเพื่อให้ได้ผลลัพธ์ บางครั้งระบบเหล่านี้ซับซ้อนมากจนแม้แต่นักวิทยาศาสตร์ข้อมูลที่ออกแบบโปรแกรมเหล่านี้ยังไม่เข้าใจอย่างถ่องแท้ว่าพวกเขาตัดสินใจอย่างไร
ผลที่ตามมาคือ ระบบเหล่านี้อาจล้มเหลวในรูปแบบ
ที่ยากต่อการเข้าใจและคาดเดาได้ยาก เช่น การแสดงอัตราความผิดพลาดที่สูงขึ้นบนใบหน้าของผู้ที่มีผิวคล้ำเมื่อเทียบกับผู้ที่มีผิวสีอ่อน หรือการจำแนกสมาชิกสภาคองเกรสที่โดดเด่นว่าเป็นอาชญากร . และการใช้ระบบเหล่านี้ในด้านต่าง ๆ เช่น การดูแลสุขภาพ บริการทางการเงิน และกระบวนการยุติธรรมทางอาญาได้จุดประกายความกลัวว่าระบบเหล่านี้อาจขยายอคติทางวัฒนธรรมและสังคมที่มีอยู่ภายใต้หน้ากากของความเป็นกลางทางอัลกอริทึม
เมื่อเร็ว ๆ นี้ Pew Research Center ได้ใช้เทคนิคการเรียนรู้เชิงลึกในชุดรายงานที่ตรวจสอบการเป็นตัวแทนทางเพศในผลการค้นหารูปภาพของ Googleและรูปภาพจากโพสต์ข่าวบน Facebook เนื่องจากเป็นไปไม่ได้สำหรับนักวิจัยของมนุษย์ในการจัดเรียงและจำแนกรูปภาพนับพันที่สร้างโดยระบบออนไลน์เหล่านี้ เราจึงสร้างเครื่องมือของเราเองเพื่อตรวจหาและจัดหมวดหมู่เพศของผู้คนในภาพที่เราพบโดยอัตโนมัติ
โดยไม่คำนึงถึงข้อมูลการฝึกอบรม โมเดลทั้งหมดสามารถระบุเพศใดเพศหนึ่งได้ดีกว่าอีกเพศหนึ่ง
ในกระบวนการสร้างระบบการเรียนรู้เชิงลึกเพื่อจดจำเพศจากใบหน้ามนุษย์ในภาพที่หลากหลาย เราได้เรียนรู้โดยตรงถึงความยากลำบากในการทำความเข้าใจว่าระบบเหล่านี้ทำงานอย่างไร ความท้าทายในการปรับเพื่อให้ทำงานได้แม่นยำยิ่งขึ้น และบทบาทที่สำคัญของข้อมูลที่ใช้ในการฝึกฝนเพื่อให้ทำงานได้อย่างมีประสิทธิภาพมากขึ้น (หรือน้อยลง) เราฝึกฝนและทดสอบโมเดลที่ไม่ซ้ำกันมากกว่า 2,000 โมเดลตามสถาปัตยกรรมการเรียนรู้เชิงลึก ทั่วไป และในกระบวนการนี้เผยให้เห็นการเปลี่ยนแปลงอย่างมากในความสามารถของโมเดลเหล่านี้ในการระบุเพศอย่างแม่นยำในชุดภาพที่หลากหลาย
ข้อจำกัดทั่วไปอย่างหนึ่งของระบบการจำแนกเพศหลายระบบ (รวมถึงระบบที่เราใช้ในการวิจัยของเราเอง) คือไม่สามารถอธิบายถึงบุคคลที่ไม่ได้ระบุว่าเป็นหญิงหรือชาย และไม่มีแนวคิดเรื่องอัตลักษณ์ทางเพศที่แยกจาก ลักษณะทางกายภาพ. แต่นอกเหนือจากข้อจำกัดที่ทราบเหล่านี้แล้ว เราได้เรียนรู้ว่าข้อมูลการฝึกที่ใช้ในการฝึกโมเดลเหล่านี้มีความสำคัญอย่างมาก นางแบบที่เราฝึกฝนโดยใช้ชุดรูปภาพที่หลากหลายมากขึ้น (ซึ่งรวมถึงองค์ประกอบทางประชากรตลอดจนคุณภาพและประเภทของรูปภาพที่ใช้ในแต่ละชุด) นั้นสามารถระบุเพศในกลุ่มภาพถ่ายที่หลากหลายใกล้เคียงกันได้ดีกว่านางแบบที่ได้รับการฝึกอบรมมากกว่า ข้อมูลที่จำกัด
