งานวิจัยชี้ ปัญญาประดิษฐ์สามารถตรวจจับภาพบุคคลที่มีผิวสีเข้มได้แย่กว่าภาพผู้มีผิวสีอ่อนถึง 5 % อาจทำให้ระบบรถยนต์ไร้คนขับ ซึ่งพัฒนาจากปัญญาประดิษฐ์ และฐานข้อมูลภาพตัวเดียวกันตรวจจับพลาด

ทีมวิจัยจากสถาบันวิจัยเทคโนโลยีจอร์เจีย (Georgia Institute of Technology) ได้ทำการทดสอบปัญญาประดิษฐ์ 8 ตัว ซึ่งใช้ในการพัฒนาระบบตรวจจับวัตถุรุ่นล่าสุดทั้งหลาย เป็นระบบที่ทำให้รถยนต์ไร้คนขับสามารถจดจำป้าย หรือสัญญาณจราจร คนเดินถนน และวัตถุอื่น ๆ ได้

คำถามตั้งต้นของงานวิจัยชิ้นนี้คือ "ปัญญาประดิษฐ์มีความสามารถในการตรวจจับวัตถุต่าง ๆ ได้อย่างแม่นยำมากน้อยเพียงใด" โดยเฉพาะอย่างยิ่งในการการตรวจจับผู้คนที่มีชาติพันธุ์ต่างกัน โดยทางทีมวิจัยได้ใช้เทคโนโลยีปัญญาประดิษฐ์ที่มีอยู่ ทดสอบกับภาพจำนวนมากของคนเดินถนนในฐานข้อมูลซึ่งมีความหลากหลายทางชาติพันธุ์

การทดสอบครั้งนี้ ทีมวิจัยได้ลองแบ่งภาพของคนเดินถนนออกเป็นสองกลุ่มหลักก็คือ กลุ่มผิวสีอ่อน และกลุ่มผิวสีเข้ม โดยอ้างอิงข้อมูลด้านเฉดสีผิวจากฟิตซ์แพทริกสเกล (Fitzpatrick scale) ซึ่งจัดประเภทสีผิวของมนุษย์ออกเป็น 6 ระดับกว้าง ๆ ตั้งแต่อ่อนมาก ไปจนถึงเข้มมาก

สำหรับงานวิจัยนี้ ผู้ที่มีสีผิวในระดับ 1 ถึง 3 ของสเกลจะจัดว่ามีผิวสีอ่อน และผู้ที่มีสีผิวในระดับ 4 ถึง 6 จะจัดว่ามีผิวสีเข้ม โดยการวิจัยพบว่า ปัญญาประดิษฐ์ทุกตัวตรวจจับวัตถุได้แย่ลงเฉลี่ย 5 % เมื่อใช้งานกับภาพของคนเดินถนนกลุ่มที่มีผิวสีเข้มในระดับที่ 4 ถึง 6

อย่างไรก็ตาม การทดลองนี้ไม่ได้จะบอกเราว่า ปัญญาประดิษฐ์มองไม่เห็นกลุ่มคนสีผิวเข้ม แต่เพราะสีผิวที่เข้มนั้นมีความกลมกลืนไปกับความมืดในยามราตรีอย่างมาก โดยทีมวิจัยได้ทดลองซ้ำด้วยการควบคุมตัวแปรเรื่องความสว่างด้วย และจากการทดลองพบว่าผลลัพธ์ที่ได้ยังคงไม่ต่างไปจากเดิม ไม่ว่าจะเป็นการตรวจจับภาพบรรดาคนเดินถนนในเวลากลางวันและกลางคืน ความต่างของสีผิวและพื้นหลังจึงไม่ใช่ปัจจัยที่ทำให้เอไอตรวจจับบุคคลเหล่านี้คลาดเคลื่อน

นอกจากนั้นยังพบว่า ความหนาแน่นของประชากรเองก็ไม่ใช่สาเหตุเช่นกัน แม้ว่าความชุกชุมของวัตถุหรือผู้คนจะเป็นปัจจัยทั่วไปที่ทำให้ปัญญาประดิษฐ์ทำการตรวจจับวัตถุได้ยากขึ้นก็ตาม แต่การเพิ่มหรือลดจำนวนคนลงก็ส่งผลกับคนเดินถนนทั้งสองกลุ่มในลักษณะเดิมอยู่ดี 

กล่าวคือ การลดความชุกชุมของคนลงก็ทำให้ปัญญาประดิษฐ์ตรวจจับได้ดีขึ้น ทั้งผู้มีผิวสีอ่อน และผู้มีผิวสีเข้ม แต่ไม่ว่าจะในสถาณการณ์แบบใดปัญญาประดิษฐ์ก็ยังคงตรวจจับคนเดินถนนที่มีผิวสีอ่อนได้แม่นยำกว่าคนที่มีผิวสีเข้มอยู่ดี ความแตกต่างของความแม่นยำยังคงมีอยู่

ตัวแปรที่สามที่ทีมวิจัยตรวจสอบคือ สัดส่วนของภาพที่มีผิวสีอ่อนกับผู้ที่มีผิวสีเข้ม เนื่องจากในฐานข้อมูลนั้นมีภาพของคนเดินถนนผิวสีอ่อนมากกว่าคนเดินถนนผิวสีเข้มถึงสามเท่า ซึ่งผลวิจัยชี้ว่า การปรับลดจำนวนภาพคนผิวสีอ่อนในฐานข้อมูลลงให้มีสัดส่วนเหมาะสมใกล้เคียงกัน อาจทำให้ตรวจจับได้ดีขึ้นทั้งผู้ที่มีผิวสีอ่อนและผู้ที่มีผิวสีเข้ม

ปัญหาในการตรวจจับจึงน่าจะเกิดจากสัดส่วนที่แตกต่างกันจนเกินไปของจำนวนภาพผู้มีผิวสีอ่อน และผู้มีผิวสีเข้มในฐานข้อมูล ทางสถาบันเทคโนโลยีจอร์เจียจึงเสนอว่า สิ่งที่ผู้พัฒนาระบบตรวจจับภาพบุคคลต้องทำคือ ต้องมีการนำเข้าตัวอย่างของคนเดินถนนที่มีผิวสีเข้มลงไปในระบบเพิ่มให้มีสัดส่วนเท่าเทียมกัน เพื่อให้ปัญญาประดิษฐ์เรียนรู้และตรวจจับผู้มีผิวสีเข้มได้ดีขึ้นกว่าที่เป็นอยู่

เจมี มอร์เกนสเติร์น หนึ่งในทีมผู้วิจัย กล่าวว่า สิ่งสำคัญที่เรียนรู้ได้จากงานวิจัยชิ้นนี้คือ ระบบตรวจจับภาพที่มีโครงสร้างลักษณะเดียวกับตัวที่ทีมทำการวิจัยควรจะถูกนำมาตรวจสอบให้ถี่ถ้วนมากขึ้นก่อนการนำไปใช้ เพื่อให้ความคลาดเคลื่อนในการตรวจจับมนุษย์ต่างสีผิวมีความแม่นยำขึ้น

ในขณะที่เรามักคิดว่าอัลกอริทึมของปัญญาประดิษฐ์นั้นน่าจะเป็นกลางกว่ามนุษย์ และตัดสินทุกอย่างได้ดีกว่าคนเพราะปราศจากอคติ แต่ในความเป็นจริงแล้ว อัลกอริทึมต่าง ๆ ก็สะท้อนอคติของผู้พัฒนาออกมาได้เป็นอย่างดี และสำหรับกรณีนี้ได้แสดงออกมาผ่านสัดส่วนของจำนวนกลุ่มตัวอย่างประชากรผิวขาวที่มีจำนวนมากกว่า ซึ่งส่งผลต่อการเรียนรู้ของเอไอในการตรวจจับภาพของประชากรที่มีผิวคล้ำเข้ม

อย่างไรก็ตาม ผู้อ่านงานวิจัยต้องคำนึงด้วยว่าการวิจัยนี้ ไม่ได้ทดสอบเอไอและฐานข้อมูลภาพที่ใช้กันอยู่ในจริงในรถยนต์ไร้คนขับ ณ ปัจจุบัน แต่เป็นเอไอหลายตัวที่ใช้วิจัยกันโดยนักวิชาการหลายกลุ่ม และฐานข้อมูลภาพที่เปิดให้สาธารณชนเข้าถึงได้ เนื่องจากบรรดาบริษัทผู้ผลิตรถยนต์รายใหญ่ทั่วโลกไม่ได้เปิดเผยข้อมูลในส่วนนี้ให้ทำการตรวจสอบ ด้วยเหตุผลทางความลับของบริษัทและเทคโนโลยีที่ถูกควบคุมด้วยลิขสิทธิ์