คนขับทรานส์ถูกล็อกไม่ให้ใช้บัญชี Uber

Uber อาจกระตือรือร้นที่จะใช้เทคโนโลยีล้ำสมัยในการแสวงหาการครอบงำของถนน แต่เหตุการณ์ล่าสุดที่เกี่ยวข้องกับคนขับข้ามเพศและคุณสมบัติการรักษาความปลอดภัยการจดจำใบหน้าของแอพ rideshare เผยให้เห็นหนึ่งในข้อผิดพลาดมากมายในการพึ่งพาอัลกอริธึมของคอมพิวเตอร์ Janey Webb คนขับทรานส์ Uber ในไอโอวา พบว่าตัวเองถูกล็อกไม่ให้เข้าแอปเมื่อเดือนที่แล้วเมื่อฟีเจอร์จำเธอไม่ได้ ทำให้เธอพลาดงานและรายได้หลายวัน CNBC รายงาน .

ระบบจดจำใบหน้าของ Uber, ตรวจสอบ ID แบบเรียลไทม์ ซึ่งเปิดตัวในเดือนกันยายน 2559 และกำหนดให้ผู้ขับขี่ต้องส่งภาพเซลฟี่เป็นระยะเพื่อยืนยันตัวตน เมื่อใช้ Microsoft Cognitive Services คุณลักษณะด้านความปลอดภัยจะเปรียบเทียบภาพเซลฟี่กับภาพถ่ายของคนขับที่ Uber เก็บไว้ในไฟล์ (ให้ไว้ ณ เวลาที่ลงทะเบียนคนขับและกระบวนการตรวจสอบเบื้องต้นกับแอป) และระงับบัญชีของคนขับชั่วคราวหากรูปถ่ายไม่ตรงกัน .

ฟังดูเหมือนเป็นคุณลักษณะด้านความปลอดภัยที่ดี เว้นแต่ในกรณีของ Webb คุณกำลังข้ามเพศและอยู่ในขั้นตอนของการเปลี่ยนแปลง CNBC รายงานว่า Webb เริ่มทำงานให้กับ Uber ในเดือนตุลาคม 2017 ในช่วงเวลาเดียวกับที่เธอเริ่มเปลี่ยนผ่าน การเปลี่ยนแปลงในรูปลักษณ์ของเธอทำให้เกิดสัญญาณสีแดงในอัลกอริธึมของ Real-Time ID Check

Webb บอกกับ CNBC ว่าเธอได้ดำเนินการบันทึกการเปลี่ยนแปลงของเธอภายในแอพอย่างขยันขันแข็ง เพื่อหลีกเลี่ยงปัญหากับคุณลักษณะด้านความปลอดภัย และเพื่อให้ผู้โดยสารที่มีโอกาสเป็นผู้โดยสารได้รับข้อมูลล่าสุด แต่นี่ยังไม่พอ ก่อนถึงช่วงสุดสัปดาห์ที่ 4 ของเดือนกรกฎาคมที่มีการจราจรหนาแน่นอย่างฉาวโฉ่ บัญชีของ Webb ถูกระงับ และเธอได้รับแจ้งให้ขับรถสองชั่วโมงไปยังศูนย์สนับสนุนด้วยตนเองเพียงแห่งเดียวของ Uber ในไอโอวาเพื่อแก้ไขปัญหา เธอถูกกล่าวหาว่าบอกว่าปัญหาอาจเกิดขึ้นอีกครั้ง

เว็บบ์บอกกับ CNBC ว่า 'คนข้ามเพศไม่ควรอัปเดตใบอนุญาตทุกๆ สามเดือนหรือประมาณนั้นเพื่อหลีกเลี่ยงไม่ให้ถูกปิดใช้งาน' Uber ยังไม่ได้ตอบกลับคำขอความคิดเห็นจากพวกเขา

อย่างไรก็ตาม นอกเหนือจาก Uber แล้ว ปัญหาของ Webb เกี่ยวกับการตรวจสอบ ID แบบเรียลไทม์ยังกล่าวถึงความกังวลที่เพิ่มขึ้นเกี่ยวกับอนาคตของเทคโนโลยีการจดจำใบหน้าและอัลกอริธึมของคอมพิวเตอร์โดยทั่วไป ซึ่งโดยทั่วไปแล้วไม่ได้กล่าวถึงชุมชนชายขอบ Google ร่วมมือกับ GLAAD to ช่วยสร้าง AI . ที่รวม LGBTQ หลังจากค้นพบคำที่ไม่สุภาพเช่นฉันเป็นเกย์ลงทะเบียนโดยอัตโนมัติเป็นลบเมื่อผู้ใช้โพสต์บนแพลตฟอร์มโซเชียลมีเดียเช่น Twitter และ Facebook

ปีที่แล้ว ความขัดแย้งปะทุขึ้นเมื่อผู้ใช้ YouTube ข้ามเพศค้นพบว่านักวิจัยกำลังทำงานเกี่ยวกับเทคโนโลยีการจดจำใบหน้า ได้ใช้วิดีโอของพวกเขา เพื่อให้ข้อมูลสำหรับ AI เพื่อช่วยสอนให้จดจำใบหน้าของผู้ที่เข้ารับการรักษาทางการแพทย์ สิ่งนี้ทำโดยปราศจากความรู้หรือความยินยอมจากผู้ใช้ YouTube

ผู้คนจำนวนมากในชุมชนชายขอบยังคงสงสัยใน AI และเทคโนโลยีการจดจำใบหน้าโดยทั่วไป ในเดือนกันยายนปีที่แล้ว รายงานของมหาวิทยาลัยสแตนฟอร์ดอ้างว่าเทคโนโลยีการจดจำใบหน้าสามารถระบุตัวบุคคลว่าเป็น LGBTQ+ ทำให้เกิดการโต้เถียงกันทั้งคู่ ข้อบกพร่องที่พบ ในรายงาน และสำหรับแนวคิดที่ว่าเทคโนโลยีนี้สามารถนำไปใช้กับกลุ่ม LGBTQ+ ได้

นักวิชาการอย่าง Sherry Turkle ศาสตราจารย์แห่งสถาบันเทคโนโลยีแมสซาชูเซตส์ กล่าวใน an สัมภาษณ์กับ NBC OUT ว่าคนแปลกหน้าจะถูกต้องที่จะพบกับเทคโนโลยีการจดจำใบหน้าดังกล่าวด้วยความสงสัย ข้อมูลนี้สามารถนำไปใช้ช่วยรัฐบาลสร้างการจดทะเบียน LGBTQ+ ได้ ซึ่งเป็นการเคลื่อนไหวที่ บางประเทศ กำลังดำเนินการอยู่

'ก่อนอื่น ใครเป็นเจ้าของเทคโนโลยีนี้ และใครมีผลลัพธ์' เติร์กเคิลกล่าวว่า 'ปัญหาตอนนี้คือ 'เทคโนโลยี' เป็นวลีที่มีความหมายว่า 'สินค้าโภคภัณฑ์' จริงๆ ความหมายคือ เทคโนโลยีของคุณสามารถบอกเพศของฉันได้จากการมองที่ใบหน้าของฉัน และคุณสามารถซื้อและขายข้อมูลนี้โดยมีวัตถุประสงค์เพื่อควบคุมทางสังคม'

การอภิปรายด้านจริยธรรมเกี่ยวกับเทคโนโลยีนี้มีแนวโน้มเพิ่มขึ้นอย่างต่อเนื่อง เนื่องจากฟีเจอร์ต่างๆ เช่น การตรวจสอบ ID แบบเรียลไทม์กลายเป็นเรื่องธรรมดา การระงับบัญชีของ Webb มีผลกระทบอย่างมีนัยสำคัญต่อรายได้ของเธอ และเธอจะไม่ใช่สาวข้ามเพศคนสุดท้ายที่ได้รับประสบการณ์ดังกล่าว AI กำลังเติบโตอย่างรวดเร็ว โดยสร้างข้อมูลสะสมเช่นเดียวกับการทำเช่นนั้น ซึ่งจะยากขึ้นเท่านั้นที่จะย้อนกลับและเปลี่ยนแปลงไปตามกาลเวลา แต่ดูเหมือนว่าจะมีความเห็นเป็นเอกฉันท์ในด้านใดด้านหนึ่ง: ผลที่ตามมาสำหรับคนชายขอบควรอยู่ตรงหน้าและตรงกลาง