บอสตันออกกฎห้ามหน่วยงานของเมืองและตำรวจใช้เทคโนโลยีจดจำใบหน้า

Loading

บอสตัน เมืองหลวงของรัฐแมสซาชูเซตส์ในสหรัฐฯ ออกกฎห้ามหน่วยงานของเมืองใช้งานระบบจดจำใบหน้าอย่างเป็นทางการ จากมติการลงคะแนนเป็นเอกฉันท์โดยสมาชิกสภาเมืองทั้งหมด 13 คน ตามกฎหมายของเมืองบอสตันนี้ คือกำหนดห้ามหน่วยงานของเมืองรวมถึงตำรวจใช้ระบบรู้จำใบหน้า ซึ่งรวมถึงการนำเทคโนโลยีมาใช้จากบุคคลที่สามด้วย โดยจะมีข้อยกเว้นเฉพาะกรณีเกี่ยวกับอาชญากรรมบางกรณีเท่านั้น Michelle Wu หนึ่งในสมาชิกสภาเมืองบอสตันระบุว่า บอสตันไม่ควรจะใช้เทคโนโลยีที่ทำให้เกิดการแบ่งแยก ซึ่งจะเป็นภัยคุกคามต่อความเป็นส่วนตัวและสิทธิขั้นพื้นฐานของผู้อาศัยในเมือง ปัจจุบัน ระบบรู้จำใบหน้ายังมีปัญหาเรื่องความแม่นยำขึ้นกับสีผิวอยู่มาก โดยงานวิจัยเมื่อ 2 ปีที่แล้วของ MIT พบว่าโปรแกรมรู้จำใบหน้าที่พร้อมใช้งานกันในเชิงพาณิชย์มีปัญหาเรื่องการระบุผู้หญิงผิวดำไม่แม่นยำมากถึง 34.7% ————————————————- ที่มา : Blognone / 25 มิถุนายน 2563 Link : https://www.blognone.com/node/117125

การต่อต้านข้อมูลบิดเบือน (disinformation): ทางเลือกนโยบายที่เหลืออยู่

Loading

ที่มาภาพ: GLOBSEC Strategic Communication Programme https://counterdisinfo.org/ Written by Kim การรณรงค์ (หาเสียง) ด้วยข้อมูลบิดเบือน (disinformation) สร้างผลกระทบอย่างกว้างขวาง ตั้งแต่การเปลี่ยนผลการเลือกตั้งไปจนถึงกระตุ้นการก่อความรุนแรง ภาครัฐและเอกชนรวมทั้งรัฐบาลสหรัฐฯและบริษัทสื่อสังคม (social media) เพิ่งเริ่มต้นใช้กลยุทธ์ต่อสู้กับข้อมูลบิดเบือน ซึ่งนำไปสู่การตอบสนองทีละน้อย ทั้งนี้ การตอบสนองการแพร่ระบาดของไวรัส COVID-19 ที่มาพร้อมกับ “infodemic”[1] จะต้องพิจารณาอย่างครอบคลุมรวมถึงการใช้กฎหมายใหม่และการคว่ำบาตรตลอดจนขยายทรัพยากรขององค์กร เพื่อจัดการความท้าทายของข้อมูลบิดเบือน อย่างไรก็ตาม การแก้ไขปัญหาของรัฐบาลไม่ใช่ยาครอบจักรวาล จึงเป็นเรื่องสำคัญที่ประชาชนจะต้องเสริมสร้างทักษะความรู้ของตัวเองเกี่ยวกับดิจิตอลและสื่อด้วย[2]           การเผยแพร่ข้อมูลบิดเบือนถือเป็นภัยคุกคามเสถียรภาพและสันติภาพระหว่างประเทศ การรณรงค์อย่างซับซ้อนเพื่อสร้างอิทธิพลต่อการเลือกตั้งประธานาธิบดีสหรัฐฯในปี 2016 ของรัสเซีย บ่งชี้ถึงการเป็นภัยคุกคามอย่างมีนัยสำคัญ ตัวอย่างจำนวนมากแสดงให้เห็นว่าทฤษฎีสมคบคิดที่ถูกผลักดันทางออนไลน์ (โลกเสมือนจริง) สามารถนำไปสู่ผลลัพธ์ในโลกกายภาพ ล่าสุดที่ลอสแอนแจลิส วิศวกรรถไฟชื่อ Eduardo Moreno เจตนาทำให้รถไฟตกรางเพื่อขัดขวางความพยายามของรัฐบาลในการต่อสู้กับ COVID-19 โดย Moreno เชื่อว่า เรือโรงพยาบาล (the Mercy) ของกองทัพเรือเป็นส่วนหนึ่งของแผนการยึดครองประเทศของรัฐบาล นอกเหนือจากการปรับใช้ทฤษฎีสมคบคิดและ deepfakes (วิดิโอดัดแปลงด้วยปัญญาประดิษฐ์) เพื่อจัดการความเชื่อของปัจเจกบุคคล บริษัทสื่อสังคมซึ่งเป็นสมรภูมิสำคัญของสงครามข้อมูลบิดเบือนได้ใช้วิธีไม่คงเส้นคงวาในการต่อสู้กับข้อมูลบิดเบือนและ deepfakes โดย Twitter ดำเนินการเชิงรุกด้วยการห้ามโฆษณาทางการเมือง แต่ตัดสินใจติดธง (ไม่ลบ) deepfakes ทางการเมือง ในทางกลับกัน Facebook ประกาศว่าจะไม่ลบโฆษณาทางการเมืองที่ทราบว่าเป็นข้อมูลผิด ปัญหาเหล่านี้ทวีความรุนแรงเมื่อเกิดการระบาดของ COVID-19 ซึ่งองค์การอนามัยโลก (World Health Organization) เรียกว่า infodemic           รัฐบาลประเทศต่าง ๆ โดยเฉพาะสหรัฐฯมีนโยบายตอบโต้ข้อมูลบิดเบือนค่อนข้างช้า…

‘ไอบีเอ็ม’ ยุติพัฒนา-จำหน่ายเอไอ ‘จดจำใบหน้า’ ชี้แฝงอคติเหยียดสีผิว

Loading

สำนักข่าวซีเอ็นบีซีรายงานว่า “ไอบีเอ็ม” บริษัทผู้ผลิตและให้บริการคอมพิวเตอร์ระดับโลกประกาศยุติการจัดจำหน่ายและการพัฒนา “เทคโนโลยีจดจำใบหน้า” (facial recognition) ของบริษัท รวมถึงเรียกร้องรัฐสภาแห่งสหรัฐอเมริกาหยิบยกเรื่องดังกล่าวเข้าสู่การอภิปรายอย่างเร่งด่วน เพื่อปฏิรูปกฎหมายควบคุมการใช้งานเทคโนโลยีนี้โดยเจ้าหน้าที่ ให้ปราศจากการเหยียดสีผิวและเป็นธรรมทางเชื้อชาติ โดยนายอาร์วินด์ คริชนา ซีอีโอของไอบีเอ็มได้ยื่นจดหมายเปิดผนึกถึงรัฐสภาสหรัฐระบุว่า บริษัทต้องการทำงานร่วมกับฝ่ายนิติบัญญัติ เพื่อหารือถึงแนวทางด้านกฎหมายในการสร้างความเป็นธรรมและความเหมาะสมในการใช้งานเทคโนโลยีจดจำใบหน้า รวมถึงการใช้งานเทคโนโลยีดังกล่าวอย่างมีความรับผิดชอบต่อสังคม การตัดสินใจของไอบีเอ็มที่จะยุติธุรกิจที่เกี่ยวข้องกับเทคโนโลยีจดจำใบหน้าครั้งนี้ เกิดขึ้นท่ามกลางการประท้วงที่ยังคงลุกลามบานปลายจากกรณีของนายจอร์จ ฟลอยด์ ชายชาวผิวสีที่ถูกเจ้าหน้าที่ตำรวจใช้ความรุนแรงจนเสียชีวิตในเวลาต่อมา ส่งผลให้ประเด็นเรื่องปฏิรูปองค์กรตำรวจของสหรัฐ และการเรียกร้องความเท่าเทียมทางเชื้อชาติสีผิวกลายเป็นประเด็นที่สังคมให้ความสนใจ ขณะที่ กระแสการวิพากษ์วิจารณ์ต่ออคติที่แฝงอยู่ในเทคโนโลยีจดจำใบหน้ามีมาโดยตลอด โดยข้อมูลงานวิจัยของ “จอย โบโอแลมวินี” นักวิทยาศาสตร์คอมพิวเตอร์ ผู้ก่อตั้งสมาคมอัลกอริทึมมิกจัสติซ (Algorithmic Justice League) ระบุว่า เทคโนโลยีดังกล่าวของบางบริษัทแสดงให้เห็นถึงอคติทางเชื้อชาติสีผิวและอคติทางเพศอย่างชัดเจน ซึ่งคนบางกลุ่มเห็นว่า ไม่ควรจำหน่ายเทคโนโลยีนี้ให้กับหน่วยภาครัฐ เพื่อรักษาความปลอดภัยของความเป็นส่วนตัวและสิทธิพลเมือง จดหมายของนายคริชนาระบุว่า “ไอบีเอ็มคัดค้านและไม่ยินยอมให้มีการใช้เทคโนโลยีใด ๆ รวมถึงเทคโนโลยีจดจำใบหน้า เพื่อการสอดแนมประชาชน การเหยียดเชื้อชาติ การละเมิดสิทธิมนุษยชนขั้นพื้นฐาน หรือเพื่อวัตถุประสงค์อื่นใดที่ไม่สอดคล้องกับค่านิยม หลักการความน่าเชื่อถือและความโปร่งใสของเรา เราเชื่อว่าขณะนี้เป็นวาระแห่งชาติที่จะเริ่มอภิปรายในประเด็นว่า ควรใช้เทคโนโลยีจดจำใบหน้าในหน่วยงานบังคับใช้กฎหมายหรือไม่และอย่างไร” นายคริชนาเข้ารับตำแหน่งซีอีโอของไอบีเอ็มในเดือนเมษายนที่ผ่านมา โดยมุ่งเน้นไปที่การพัฒนาระบบคลาวด์เซอร์วิสของบิรษัทมากขึ้น แต่ก็ยังคงมุ่งมั่นพัฒนาธุรกิจเมนเฟรมคอมพิวเตอร์ สำหรับการประมวลผลข้อมูลจำนวนมากในสำนักงานด้วย โดยขณะนี้บริษัทมีมูลค่าตลาดอยู่ที่ราว 135,000 ล้านดอลลาร์สหรัฐ แม้ว่าธุรกิจเทคโนโลยีจดจำใบหน้าจะไม่ใช่ธุรกิจที่สร้างรายได้ให้กับไอบีเอ็มมากนัก แต่การตัดสินใจครั้งนี้ก็สร้างความตื่นตัวในประเด็นเรื่องความเท่าเทียมทางเชื้อชาติให้กับรัฐบาลสหรัฐ ซึ่งเป็นลูกค้ารายใหญ่ของไอบีเอ็ม “ปัญญาประดิษฐ์ (เอไอ) เป็นเครื่องมืออันทรงพลัง ที่สามารถช่วยให้ผู้บังคับใช้กฎหมายดำเนินการรักษาความปลอดภัยให้กับประชาชนได้อย่างมีประสิทธิภาพ แต่ผู้จำหน่ายและผู้ใช้งานระบบเอไอมีความรับผิดชอบที่จะต้องดำเนินการทดสอบอคติที่แฝงอยู่ในระบบเอไอ โดยเฉพาะอย่างยิ่งเมื่อประยุกต์ใช้กับการบังคับใช้กฎหมาย…

‘แอมะซอน’ งดให้บริการ ‘เทคโนโลยีตรวจจับใบหน้า’ แก่ตำรวจสหรัฐฯ เป็นเวลา 1 ปี

Loading

รอยเตอร์ – บริษัท Amazon.com Inc ประกาศงดให้บริการเทคโนโลยีตรวจจับใบหน้า (facial recognition software) แก่ตำรวจสหรัฐฯ เป็นเวลา 1 ปี หลังเกิดเหตุประท้วงกรณีตำรวจใช้ความรุนแรงสังหารชายผิวสี นักเคลื่อนไหวเพื่อเสรีภาพพลเมืองในสหรัฐฯ ต่อสู้เรียกร้องมานานถึง 2 ปีว่าระบบตรวจจับใบหน้าของแอมะซอนอาจระบุตัวบุคคลผิดพลาด จนนำไปสู่การจับกุมอย่างไม่เป็นธรรมได้ การเสียชีวิตของ จอร์จ ฟลอยด์ หนุ่มผิวสีซึ่งถูกตำรวจมินนาอาโพลิสใช้เข่ากดคอจนขาดใจตายเมื่อเดือน พ.ค. ยิ่งกระพือข้อกังวลว่าระบบตรวจจับใบหน้าจะถูกใช้เป็นเครื่องมือเล่นงานผู้ประท้วง นักวิจารณ์ยังชี้ถึงผลการศึกษาในอดีตที่แสดงให้เห็นว่า บริการ ‘Rekognition’ ของแอมะซอนมักมีปัญหาในการระบุเพศของคนผิวสีเข้ม ซึ่งเป็นผลวิจัยที่แอมะซอนออกมาโต้แย้ง ล่าสุด แอมะซอนซึ่งจำหน่ายเทคโนโลยีคลาวด์ผ่านทาง Amazon Web Services ได้แถลงยืนยันวานนี้ (10 มิ.ย.) ว่า บริษัทจะผลักดันให้มีการออกกฎควบคุมการใช้ซอฟต์แวร์ตรวจจับใบหน้าอย่างมีจริยธรรม “เราหวังว่าการระงับบริการ 1 ปีจะช่วยให้สภาคองเกรสมีเวลามากพอที่จะบังคับใช้กฎระเบียบที่เหมาะสม และเราพร้อมจะให้ความช่วยเหลือ หากมีการขอร้องมา” แอมะซอน ระบุ ทั้งนี้ แอมะซอนจะยังคงอนุญาตให้มีการใช้เทคโนโลยีตรวจจับใบหน้าเพื่อสนับสนุนภารกิจของหน่วยงานบังคับใช้กฎหมายในการตามหาเหยื่อค้ามนุษย์ สภาคองเกรสได้เริ่มพิจารณาออกกฎควบคุมการใช้เทคโนโลยีตรวจจับใบหน้ามาเป็นเวลาหลายเดือนแล้ว และล่าสุดเมื่อวันจันทร์ (8) บริษัท ไอบีเอ็ม ได้ส่งหนังสือแจ้งไปยังคองเกรสว่าจะเลิกจำหน่ายและพัฒนาเทคโนโลยีชนิดนี้…

โป๊ปจับมือ Microsoft, IBM ปั้นจริยธรรม AI และเทคโนโลยีจดจำใบหน้า

Loading

วาติกันประกาศความร่วมมือกับ 2 ยักษ์ใหญ่ไมโครซอฟท์ (Microsoft) และไอบีเอ็ม (IBM) เพื่อหนุนการสร้างจริยธรรมระบบปัญญาประดิษฐ์ (AI) และระบบจดจำใบหน้าให้ไม่ถูกนำไปใช้ในทางที่ผิด โดยวาติกันเปิดเอกสารเรียกร้องให้มีการควบคุมการใช้ปัญญาประดิษฐ์อย่างเข้มข้น ย้ำว่าเครื่องมือเอไอควรทำงานอย่างยุติธรรม โปร่งใส เชื่อถือได้ และเคารพชีวิตมนุษย์และสิ่งแวดล้อม ผลจากความร่วมมือนี้ทำให้ไมโครซอฟท์และไอบีเอ็มมีภาพชัดเจนว่าได้เข้าร่วมขานรับแนวคิดของสมเด็จพระสันตะปาปาฟรานซิส โดยทั้งคู่สนับสนุนเอกสารดังกล่าว ซึ่งการเปิดเผยเอกสารนี้ไม่ใช่ครั้งแรกที่สมเด็จพระสันตะปาปาทรงคำนึงถึงประเด็นทางศีลธรรมและจริยธรรมที่มาพร้อมกับเทคโนโลยีใหม่เอกสารนี้มีชื่อว่าเดอะโรมคอลล์ฟอร์เอไออีธิกส์ (The Rome Call for AI Ethics) จากเนื้อความในเอกสาร ชัดเจนว่าสมเด็จพระสันตะปาปาฟรานซิสทรงหวังที่จะกำจัดปัญญาประดิษฐ์ที่มีจุดประสงค์ชั่วร้าย และเทคโนโลยีที่อาจเป็นอันตรายเช่นการจดจำใบหน้า ทำให้วาติกันร่วมมือกับไมโครซอฟท์และไอบีเอ็มเพื่อรวบรวมหลักการที่เรียกได้ว่าเป็นหลักการใช้เอไออย่างมีจริยธรรมและศีลธรรมจุดเด่นของเอกสารนี้คือรายละเอียดว่าเอไอควรโฟกัสในประเด็นที่ไม่ใช่เทคโนโลยี แต่ควรเน้นที่ความดีของมนุษยชาติและสิ่งแวดล้อม เอกสารนี้ยังกระตุ้นให้ผู้เชี่ยวชาญเอไอพยายามตอบโจทย์ความจำเป็นของผู้ด้อยโอกาสบนโลกด้วยแทนที่จะเป็นอัลกอลิธึม แต่เอกสารนี้ใช้คำว่า “อัลกออีธิกส์” (algor-ethics) โดยอธิบายว่า algor-ethics คือการรวมองค์ประกอบพื้นฐานของนวัตกรรมที่ดี จุดประสงค์คือการเรียกร้องให้เทคโนโลยีต่างๆถูกพัฒนาบนความโปร่งใสตรวจสอบได้ ขณะเดียวกันก็ควรเปิดกว้างและทั่วถึงเพื่อให้บุคคลทุกคนสามารถรับประโยชน์จากการพัฒนาได้ ที่ขาดไม่ได้คือความรับผิดชอบ เพราะผู้ที่ออกแบบและปรับใช้ AI ควรต้องดำเนินการด้วยความรับผิดชอบต่อสังคมและโปร่งใสนอกจากนี้คือความเป็นกลาง เนื่องจากผู้พัฒนาไม่ควรสร้างหรือพัฒนาเทคโนโลยีด้วยความลำเอียง เช่นเดียวกับความน่าเชื่อถือ ความปลอดภัย และความเป็นส่วนตัวซึ่งขาดไม่ได้ เพื่อให้ระบบทำงานอย่างปลอดภัยและเคารพความเป็นส่วนตัวของผู้ใช้เอกสารของวาติกันยังให้คำแนะนำสำหรับเทคโนโลยีที่อาจเป็นอันตรายเช่นระบบวิเคราะห์และจดจำใบหน้า ซึ่งเน้นให้ผู้พัฒนาพยายามปฏิบัติตามหลักจริยธรรมเช่นกันแม้ระบบล้ำสมัยอย่างเอไอมักชูจุดขายเรื่องการนำไปใช้งานเพื่อยกระดับความปลอดภัย แต่การวิจัยพบว่าเอไอบางประเภทได้รับการฝึกให้มีอคติทางเชื้อชาติและเพศ ซึ่งอาจเป็นอันตรายมากกว่าการช่วยเหลือมนุษยชาติ โดยในช่วงไม่กี่ปีที่ผ่านมา กลุ่มทุนมากมายพยายามควบคุมเทคโนโลยีเพื่อแสวงหาผลประโยชน์ ทั้งทางการค้าและทางการเมือง ยังมีปัญหาเนื้อหาที่ไม่เหมาะสมซึ่งสร้างความเสียหายให้สังคมแบบประเมินค่าไม่ได้หลักปฏิบัติแบบเต็มซึ่งได้รับการรับรองจากไอบีเอ็มและไมโครซอฟท์แล้ว สามารถอ่านได้จากลิงก์นี้ —————————————— ที่มา…

Apple สั่งบล็อก “Clearview AI” ฐานละเมิดกฎซอฟต์แวร์

Loading

เขียนโดย :   Talil เมื่อไม่กี่วันมานี้ Apple ได้มีการประกาศสั่งบล็อกแอปฯ ‘Clearview AI’ เทคโนโลยีจดจำใบหน้า เพราะละเมิดกฎโปรแกรมซอฟต์แวร์ของบริษัท โดย Clearview AI ที่ให้บริการแอปฯ เฉพาะเจ้าหน้าที่ผู้บังคับใช้กฎหมาย รวมถึงองค์กรบางรายเท่านั้น เช่น Macy’s, Walmart และ Wells Fargo ได้ใช้ใบรับรองระดับองค์กรทำให้ผู้ใช้สามารถติดตั้งซอฟต์แวร์ได้โดยไม่ผ่าน App Store โดยทำผิดกฎของ Apple ที่จำกัดให้ผู้ใช้เข้าถึงซอฟต์แวร์เฉพาะบุคคลภายในองค์กรที่กำหนดเท่านั้น ขณะที่ปกติแล้วเทคโนโลยีการจดจำใบหน้าขั้นสูงของ Clearview AI ผู้ใช้ iPhone ทั่วไปจะเข้าถึงไม่ได้ แต่ลองนึกภาพว่าเราเดินอยู่ในที่สาธารณะ และมีคนแปลกหน้าเดินสวนกับคุณ จนกระทั่งเขาหยิบโทรศัพท์มือถือขึ้นมาถ่ายรูปคุณ ก่อนจะอัพโหลดรูปนั้นลงในแอปฯ เพื่อให้แมตช์กับฐานข้อมูล จนสามารถพบข้อมูลของคุณบนสื่อโซเชียลมีเดีย พบแอคเคาท์  Facebook , instagram หรืออื่นๆ จากนั้นตามด้วยชื่อจริง ที่อยู่ ซึ่งหลังจากนั้นมันจะเป็นอย่างไรต่อ ? แน่นอนว่ามันคือหายนะ เพราะนั่นอาจหมายถึงอันตรายที่จะเกิดขึ้นตามมาในภายหลัง “เพื่อความปลอดภัย” หรือ “รุกล้ำความเป็นส่วนตัว” สำหรับ ‘Clearview AI’ เป็นเทคโนโลยีจดจำใบหน้าที่ถูกพัฒนาโดยบริษัทสตาร์ทอัพเล็กๆ ในสหรัฐอเมริกา ก่อตั้งโดย “ฮอน ทอน-แทต” หนุ่มหน้าตาดี อดีตนายแบบเชื้อสายเวียดนาม ซึ่งได้รับเงินทุนจากอภิมหาเศรษฐีคนหนึ่งในสหรัฐอเมริกา…