ช่วงนี้ข่าว George Floyd (ชายผิวดำที่ถูกตำรวจผิวขาว กดคอกับพื้นด้วยเข่าจนขาดอากาศและเสียชีวิต) กำลังเป็นประเด็นใหญ่และถึงกับประท้วงกันไปทั่วอเมริกา

แต่จากประเด็นเรื่องการปฎิบัติที่ไม่เท่าเทียมกันในสังคม (discrimination) นำมาสู่เรื่องเทคโนโลยี AI ในการรู้จำใบหน้า เช่น
1. IBM ถึงกับประกาศยกเลิกธุรกิจการพัฒนาและวิจัยเทคโนโลยีรู้จำใบหน้า (facial recognition) [1]
2. Microsoft ประกาศว่าจะไม่ขายเทคโนโลยีรู้จำใบหน้าให้กับตำรวจจนกว่ารัฐสภาสหรัฐจะผ่านกฎหมายคุ้มครองดูแลข้อมูลส่วนบุคคล ไม่ให้เกิดการเลือกปฎิบัติและแบ่งแยก [6]
3. Amazon ประกาศหยุดสนับสนุนการใช้เทคโนโลยีรู้จำใบหน้าแก่ตำรวจ เป็นเวลา 1 ปี [2]
เรื่องความเหลื่อมล้ำของ AI ในการจำแนกใบหน้าบุคคลผิวสีนี้ไม่ใช่ไม่มีมูล เพราะสถาบันมาตรฐานและเทคโนโลยีแห่งชาติของอเมริกา (NIST: National Institute of Standards and Technology) ทดสอบความแม่นยำของอัลกอริธึมในการจำแนกบุคคลด้วยเทคโนโลยีรู้จำใบหน้าของหลายสิบบริษัททั่วโลก ก็พบว่า มันลำเอียงจริง!!!
ในผลการทดสอบ NIST บอกว่า ในช่วงปี 2010-2018 ความแม่นยำในการทำ facial recognition ดีขึ้นถึง 25 เท่า และมีโอกาสผิดพลาดประมาณ 0.2%
อย่างไรก็ตาม เมื่อมีการทดสอบโดยเทียบเจาะจงเฉพาะคนผิวขาวกับผิวสี และผู้ชายกับผู้หญิง พบว่า

- กรณีหญิงผิวขาว จะมีอัตราการจับคู่ภาพถ่ายกับภาพจากฐานข้อมูลผิด 1 ใน 10,000 แต่หญิงผิวสีจะเป็น 1 ใน 1,000 (หญิงผิวสีผิดพลาดมากกว่าผิวขาว 10 เท่า!!) [1]
- การจับคู่ภาพผิด หมายถึงว่า เรามีภาพ (ที่เพิ่งถ่ายมา) ของบุคคลต้องสงสัย แล้วต้องการเอาไปหาคู่เทียบภาพของคนเดียวกันที่มีอยู่แล้วในฐานข้อมูล เช่น ฐานข้อมูลผู้ต้องสงสัย (ศัพท์อเมริกันเรียกภาพเหล่านี้ว่า mugshots)
- ประมวลผลภาพผู้หญิงผิดมากกว่าผู้ชาย ซึ่งยังไม่ทราบสาเหตุที่แน่นอน แต่สันนิษฐานว่าอาจจะเพราะผู้หญิงแต่ละคนแต่งหน้ามากบ้างน้อยบ้าง สไตล์ก็ต่างกันบ้าง จึงทำให้ยากกว่า [8]
- ผลล่าสุด (ปี 2020 [3]) ก็ยังบ่งบอกออกมาในทิศทางเดียวกัน คือ ผิวสีกับผิวขาว ผิดพลาดต่างกัน 5-10 เท่า แล้วแต่ยี่ห้ออัลกอริธึม ตรงนี้ศัพท์เทคนิคเรียก False Match Rate (FMR) คือ แมตช์เจอภาพในฐานข้อมูลแต่ภาพนั้นไม่ใช่ของบุคคลนั้นจริง ๆ (เอาภาพคนอื่นมาตู่บอกว่าใช้)
- ค่าปกติที่ยอมรับได้ของ FMR คือ 1 ในหมื่น (match ผิดครั้งเดียวในหมื่นครั้ง)

- นอกจาก NIST แล้ว ยังมีอีกหลายแหล่งที่ทำการทดสอบ เช่น สหภาพเสรีภาพพลเมืองอเมริกัน (ACLU The American Civil Liberties Union: ACLU) และ มหาวิทยาลัย MIT
- เพื่อให้มีดราม่าเล็กน้อย ACLU เคยนำภาพใบหน้าของสมาชิกวุฒิสภาสหรัฐฯ 535 คน (ประกอบด้วย สส. 435 คน และ สว. อีก 100 คน [8]) มาลองหาว่าจะแมตช์ตรงกับภาพหน้าคนร้ายคนใดหรือไม่ในฐานข้อมูล mugshots (ภาพหน้าคนร้ายในอเมริกาที่เป็นข้อมูลสาธารณะ)
- ผลปรากฏว่า มีอยู่ 28 คน ที่ใบหน้าโดน match เข้ากับฐานข้อมูลใบหน้าคนร้ายตามหมายจับ!!! โดย ACLU ใช้เทคโนโลยีรู้จำใบหน้าของบริษัท Amazon (บริษัทของอเมริกาที่เพิ่งชนะการประมูลโครงการคลาวด์คอมพิวติ้งของกลาโหมสหรัฐ หรือเพนตากอน)
- แน่นอนว่าสมาชิกวุฒิสภาเหล่านั้นไม่ได้เป็นคนร้ายแต่อย่างใด แต่ ACLU แค่ต้องการแสดงให้เห็นว่า AI มันก็พลาดได้
- ประเด็นนี้ รู้ไหมว่าจรรยาบรรณ AI (AI Ethics) ของยุโรป [9] ระบุว่า หากใช้ AI ในการประมวลผล จะต้องให้ผลที่เท่าเทียยมกันและไม่เลือกปฎิบัติ
- นอกจากนี้ กฎหมายคุ้มครองข้อมูลส่วนบุคคล GDPR ของยุโรป [10] ก็บอกว่ากรณีประมวลผลแบบอัตโนมัติ ห้ามทำให้เกิดความเหลื่อมล้ำ หรือแบ่งแยกไม่เท่าเทียม ซึ่งในกรณีที่ผลการรู้จำภาพใบหน้าของคนผิวสีที่ต่างคนขาวประมาณ 10 เท่านี้ ถือว่าเหลื่อมล้ำชัดเจน โดยเฉพาะเมื่อมีการนำมาใช้ตัดสินคดีที่มีผลทางกฎหมาย หรือนำมาเกี่ยวข้องกับบริการสาธารณะสำคัญๆ


เกร็ดอื่นๆ ประกอบเกี่ยวกับวงการรู้จำใบหน้าในอเมริกา
1. ในอเมริกา IDEMIA [5] เป็นยี่ห้อที่ถูกใช้มากที่สุด (โดยภาครัฐของอเมริกา) เพราะจากผลการทดสอบของปี 2018 บริษัทเขาชนะยี่ห้ออื่นและมีการกล่าวอ้างผลนี้ใน [4] เมื่อเดือนมีนาคม 2019
2. ชื่อ IDEMIA ไม่ค่อยคุ้นในบ้านเรา แต่เป็นบริษัทด้านเทคโนโลยีรู้จำใบหน้าของฝรั่งเศส และเขาเคลมว่าตัวเองเป็นผู้นำด้านนี้ในระดับโลก
3. อย่างไรก็ตาม ผลทดสอบของ NIST (National Institute of Standards and Technology) ยังบอกว่าอัลกอริธึมล่าสุด 2 ตัวของ IDEMIA ก็ยังรู้จำใบหน้าของคนผิวสีได้ไม่แม่นเท่าไหร่ (ใกล้เคียงกับที่ผ่านมา)
4. มีกว่า 200 อัลกอริธึม ที่ส่งเข้าไปให้ NIST ทดสอบ โดยมาจากหลากหลายบริษัท (มีจีนด้วย) ชื่อที่ผมดูแล้วคุ้นก็มี Hikvision, Yitu และ Dahua
แหล่งข้อมูลอ้างอิง
[2] https://www.cnet.com/news/amazon-announces-one-year-pause-on-facial-recognition-for-police
[3] https://www.nist.gov/programs-projects/face-recognition-vendor-test-frvt-ongoing
[4] https://www.prnewswire.com/news-releases/idemia-facial-recognition-algorithm-outperforms-other-us-government-agency-providers-at-recent-nist-test-300818604.html
[5] https://www.idemia.com/
[6] https://www.theverge.com/21288053/microsoft-facial-recognition-police-law-enforcement-pledge-regulation
[7] https://www.wired.com/story/best-algorithms-struggle-recognize-black-faces-equally/
[8] https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28
[9] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
[10] https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/individual-rights/rights-related-to-automated-decision-making-including-profiling
หมายเหตุ: ท่านที่สนใจวิธีการทดสอบ การเตรียมข้อมูลสำหรับทดสอบ และผลอย่างละเอียด (มีการทดสอบอัลกอริธึมของแทบทุกค่ายทุกยี่ห้อ ให้ไปดูที่ [3]) เอกสารทำละเอียดมาก รวมกันหลายร้อยหน้า
หากสนใจเรื่อง AI, Facial Recognition ต้องไม่พลาดบทความเหล่านี้
Biometrics ประมวลผลอย่างไร CCTV ถึงได้รู้ว่านั่นคือ ‘ใบหน้าของคุณ’
ทำความรู้จัก ‘ข้อมูลชีวมาตร (Biometrics)’ ทั้งสำคัญ อ่อนไหว และไม่ควรให้ใครรู้
ข้อมูลส่วนบุคคล กับ การประเมินความเสี่ยง ที่ผู้ประกอบการไทยควรรู้











