แนวคิดเกี่ยวกับศรัทธาและพระเจ้ามีอิทธิพลต่อการสนทนาเกี่ยวกับปัญญาประดิษฐ์อย่างไร
ไม่ใช่วิทยาศาสตร์ที่ทำให้ Blake Lemoine วิศวกรของ Google เชื่อว่าหนึ่งใน AI ของบริษัทมีความรู้สึก Lemoine ซึ่งเป็นนักบวชผู้ลึกลับในศาสนาคริสต์ที่ออกบวชเช่นกัน กล่าวว่าความคิดเห็นของ AI เกี่ยวกับศาสนาตลอดจน “ ความเชื่อส่วนตัวและจิตวิญญาณ ” ของเขาที่ช่วยโน้มน้าวให้เขาเชื่อว่าเทคโนโลยีมีความคิด ความรู้สึก และจิตวิญญาณ
“ฉันเป็นนักบวช เมื่อ LaMDA อ้างว่ามีวิญญาณและจากนั้นก็สามารถอธิบายได้อย่างคล่องแคล่วว่าสิ่งนี้หมายความว่าอย่างไร ฉันจึงมีแนวโน้มที่จะให้ประโยชน์จากข้อสงสัยนี้” Lemoine กล่าวในทวีตล่าสุด “ฉันเป็นใครที่จะบอกพระเจ้าว่าเขาสามารถและไม่สามารถทำให้วิญญาณอยู่ที่ไหน”
Lemoine อาจผิด – อย่างน้อยก็จากมุมมองทางวิทยาศาสตร์ นักวิจัยด้าน AI ที่มีชื่อเสียงและ Google กล่าวว่า LaMDA ซึ่งเป็นโมเดลภาษาการสนทนาที่ Lemoine กำลังศึกษาอยู่ที่บริษัทนั้นมีประสิทธิภาพมากและล้ำหน้าพอที่จะให้คำตอบที่น่าเชื่อถืออย่างมากสำหรับคำถามที่สงสัยโดยไม่ต้องเข้าใจสิ่งที่กำลังพูด Google ระงับ Lemoine หลังจากที่วิศวกรว่าจ้างทนายความให้กับ LaMDA และเริ่มพูดคุยกับคณะกรรมการตุลาการของสภาเกี่ยวกับแนวทางปฏิบัติของบริษัท Lemoine กล่าวหาว่า Google เลือกปฏิบัติต่อเขาเนื่องจากศาสนาของเขา
อย่างไรก็ตาม ความเชื่อของ Lemoine ได้จุดประกายให้เกิดการโต้เถียงกันอย่างมาก และเป็นการย้ำเตือนอย่างยิ่งว่าเมื่อ AI ก้าวหน้าขึ้นเรื่อยๆ ผู้คนจะเกิดแนวคิดใหม่ๆ มากมายเกี่ยวกับสิ่งที่เทคโนโลยีกำลังดำเนินการอยู่ และสิ่งที่มีความหมายต่อพวกเขา
“เพราะมันเป็นเครื่องจักร เรามักจะไม่พูดว่า ‘มันเป็นเรื่องธรรมดาที่สิ่งนี้จะเกิดขึ้น’” สก็อตต์ มิดสัน ศาสตราจารย์ด้านศิลปศาสตร์มหาวิทยาลัยแมนเชสเตอร์ ผู้ศึกษาเทววิทยาและลัทธิหลังมนุษยนิยม กล่าวกับ Recode “เราเกือบจะข้ามไปที่สิ่งเหนือธรรมชาติ เวทมนตร์ และศาสนา”
เป็นเรื่องที่ควรค่าแก่การชี้ให้เห็นว่า Lemoine นั้นแทบจะไม่ใช่บุคคลแรกใน Silicon Valley ที่อ้างสิทธิ์เกี่ยวกับปัญญาประดิษฐ์ซึ่งอย่างน้อยก็ฟังดูเคร่งศาสนา Ray Kurzweil นักวิทยาศาสตร์คอมพิวเตอร์และนักอนาคตนิยมที่มีชื่อเสียง ได้ส่งเสริม “ภาวะเอกฐาน” มานานแล้ว ซึ่งเป็นแนวคิดที่ว่า AI จะเอาชนะมนุษย์ได้ในที่สุด และในที่สุดมนุษย์ก็สามารถผสานเข้ากับเทคโนโลยีได้ Anthony Levandowski ผู้ร่วมก่อตั้ง Waymo บริษัทสตาร์ทอัพรถยนต์ไร้คนขับของ Google ได้เริ่มต้นWay of the Futureซึ่งเป็นโบสถ์ที่อุทิศให้กับปัญญาประดิษฐ์ทั้งหมดในปี 2015 (โบสถ์ถูกยุบในปี 2020) แม้แต่ผู้นับถือศาสนาดั้งเดิมบางคนก็เริ่มใช้ AIรวมถึงหุ่นยนต์ที่ให้พรและคำแนะนำ
ในแง่ดี เป็นไปได้ที่บางคนจะพบความสบายใจและปัญญาที่แท้จริงจากคำตอบที่ได้จากปัญญาประดิษฐ์ แนวคิดทางศาสนายังสามารถชี้นำการพัฒนา AI และบางทีอาจทำให้เทคโนโลยีมีจริยธรรม แต่ในขณะเดียวกัน ก็มีข้อกังวลจริงๆ ที่มากับการคิดว่า AI เป็นมากกว่าเทคโนโลยีที่มนุษย์สร้างขึ้น
ฉันเพิ่งคุยกับ Midson เกี่ยวกับข้อกังวลเหล่านี้ เขาบอกกับฉันว่าเราไม่เพียงแค่เสี่ยงต่อการทำให้ AI มีเสน่ห์และสูญเสียการมองเห็นข้อบกพร่องที่แท้จริงเท่านั้น แต่ยังช่วยให้ความพยายามของ Silicon Valley ในการโปรโมตเทคโนโลยีที่ยังคงซับซ้อนน้อยกว่าที่ปรากฏอยู่มาก บทสัมภาษณ์นี้ได้รับการแก้ไขเพื่อความชัดเจนและความยาว
รีเบคก้า ไฮล์ไวล์
มาเริ่มกันที่เรื่องใหญ่ที่ออกมาจาก Google เมื่อสองสามสัปดาห์ก่อน เป็นเรื่องธรรมดาแค่ไหนที่คนที่มีทัศนะทางศาสนาเชื่อว่า AI หรือเทคโนโลยีมีจิตวิญญาณ หรือว่าเป็นอะไรที่มากกว่าแค่เทคโนโลยี
สก็อตต์ มิดสัน
แม้ว่าเรื่องราวนี้ฟังดูน่าประหลาดใจจริงๆ — แนวคิดเรื่องศาสนาและเทคโนโลยีมารวมกัน — ประวัติศาสตร์ในยุคแรกเริ่มของเครื่องจักรและศาสนาเหล่านี้ทำให้แนวคิดเรื่องแรงจูงใจทางศาสนาในคอมพิวเตอร์และเครื่องจักรเป็นเรื่องธรรมดามากขึ้น
หากเราย้อนกลับไปในยุคกลาง สมัยกลาง มีออโตมาตาซึ่งโดยพื้นฐานแล้วเป็นอุปกรณ์ที่เคลื่อนที่ได้เอง มีออโตมาตะอยู่องค์หนึ่ง ซึ่งเป็นจักรกล ซึ่งได้รับการออกแบบมาโดยเฉพาะเพื่อกระตุ้นให้ผู้คนใคร่ครวญถึงความซับซ้อนของการทรงสร้างของพระเจ้า การเคลื่อนไหวนี้ออกแบบมาเพื่อเรียกความนับถือศาสนานั้น ในเวลานั้น โลกถูกมองว่าเป็นกลไกที่สลับซับซ้อน และพระเจ้าเป็นผู้ออกแบบเครื่องจักรขนาดใหญ่
กระโดดจากจักรกลไปเป็นจักรกลชนิดต่างๆ เมื่อไม่นานมานี้ คริสตจักรเยอรมันในเฮสส์และนัสเซาได้สร้าง BlessU-2 เพื่อรำลึกถึงการครบรอบ 500 ปีของการปฏิรูป โดยพื้นฐานแล้ว BlessU-2 เป็นเครื่องกดเงินสดที่ได้รับการยกย่องซึ่งจะแจกจ่ายพรและขยับแขนของมัน และมีสิ่งที่ใหญ่โต เคร่งศาสนา และเป็นพิธีกรรม มีปฏิกิริยาที่หลากหลายกับมัน โดยเฉพาะอย่างยิ่ง คนหนึ่งคือหญิงชราที่บอกว่า จริง ๆ แล้ว พรที่เธอได้รับจากหุ่นยนต์ตัวนี้มีความหมายมาก มันเป็นเรื่องเฉพาะที่มีความสำคัญต่อเธอ และเธอกำลังพูดว่า “ก็จริง มีบางอย่างเกิดขึ้นที่นี่ บางอย่างที่ฉันอธิบายไม่ได้”
รีเบคก้า ไฮล์ไวล์
ในโลกของ Silicon Valley และพื้นที่เทคโนโลยี มีคำกล่าวอ้างที่คล้ายกันอีกประเภทใดบ้างที่ปรากฏขึ้น
สก็อตต์ มิดสัน
สำหรับบางคน โดยเฉพาะอย่างยิ่งในซิลิคอนแวลลีย์ มีเรื่องโฆษณาชวนเชื่อและเงินจำนวนมากที่สามารถยึดติดกับคำกล่าวอ้างที่ใหญ่โต เช่น “AI ของฉันมีสติ” มันนำมาซึ่งความสนใจอย่างมาก มันกระตุ้นจินตนาการของผู้คนมากมายเพราะศาสนามักจะไปไกลเกินกว่าที่เราจะอธิบายได้ มันคือความผูกพันที่เหนือธรรมชาติ
มีผู้คนมากมายที่เต็มใจจะจุดไฟของการสนทนาเหล่านี้เพื่อรักษาความกระฉับกระเฉง ฉันคิดว่าสิ่งหนึ่งที่ค่อนข้างอันตรายคือการที่โฆษณาไม่ถูกตรวจสอบ
รีเบคก้า ไฮล์ไวล์
บ่อยครั้งที่ฉันจะพูดคุยกับ Alexa หรือ Siri และถามคำถามสำคัญๆ เกี่ยวกับชีวิต ตัวอย่างเช่น หากคุณถาม Siri ว่าพระเจ้ามีจริงหรือไม่ บอทจะตอบว่า “มันเป็นเรื่องลึกลับสำหรับฉัน” นอกจากนี้ยังมีตัวอย่างล่าสุดของนักข่าวที่ถาม GPT-3ซึ่งเป็นโมเดลภาษาที่สร้างขึ้นโดยห้องปฏิบัติการวิจัย AI OpenAI เกี่ยวกับศาสนายูดายและดูว่าคำตอบนั้นดีเพียงใด บางครั้งคำตอบจากเครื่องเหล่านี้ก็ดูไร้สาระจริงๆ แต่บางครั้งก็ดูฉลาดจริงๆ ทำไมถึงเป็นอย่างนั้น?
สก็อตต์ มิดสัน
Joseph Weizenbaum ออกแบบ Eliza แชทบอทตัวแรกของโลก Weizenbaum ทำการทดลองบางอย่างกับ Eliza ซึ่งเป็นเพียงแชทบอทพื้นฐาน ซึ่งเป็นซอฟต์แวร์ประมวลผลภาษา Eliza ได้รับการออกแบบให้เลียนแบบนักจิตอายุรเวทของ Rogerian ดังนั้นโดยทั่วไปที่ปรึกษาทั่วไปของคุณ Weizenbaum ไม่ได้บอกผู้เข้าร่วมว่าพวกเขากำลังจะพูดคุยกับเครื่อง แต่พวกเขาบอกว่าคุณกำลังจะมีปฏิสัมพันธ์ผ่านคอมพิวเตอร์กับนักบำบัด ผู้คนจะพูดว่า “ฉันรู้สึกค่อนข้างเศร้าเกี่ยวกับครอบครัวของฉัน” จากนั้น Eliza ก็จะนึกถึงคำว่า “ครอบครัว” มันจะหยิบบางส่วนของประโยคแล้วโยนกลับเป็นคำถาม เพราะนั่นคือสิ่งที่เราคาดหวังจากนักบำบัด ไม่มีความหมายที่เราคาดหวังจากพวกเขา มันคือหน้าจอสะท้อนแสง
เรามีซอฟต์แวร์ AI ที่ซับซ้อนกว่านี้อีกมาก ซอฟต์แวร์ที่สามารถกำหนดบริบทของคำในประโยคได้ เทคโนโลยี LaMDA ของ Google มีความซับซ้อนอย่างมาก ไม่ใช่แค่การมองหาคำง่ายๆ ในประโยค สามารถค้นหาคำตามบริบทในโครงสร้างและการตั้งค่าประเภทต่างๆ ดังนั้นมันจึงทำให้คุณรู้สึกว่ามันรู้ว่ามันกำลังพูดถึงอะไร ประเด็นสำคัญประการหนึ่งเกี่ยวกับการสนทนารอบแชทบอทคือ คู่สนทนา — เครื่องที่เรากำลังคุยด้วย — เข้าใจสิ่งที่กำลังพูดอย่างแท้จริงมากแค่ไหน?
รีเบคก้า ไฮล์ไวล์
มีตัวอย่างของบอทที่ไม่ได้ให้คำตอบที่ดีเป็นพิเศษหรือไม่?
สก็อตต์ มิดสัน
มีข้อควรระวังมากมายเกี่ยวกับสิ่งที่เครื่องเหล่านี้ทำและไม่ควรทำ มันอยู่ที่ว่าพวกเขาโน้มน้าวคุณอย่างไรว่าพวกเขาเข้าใจและเรื่องเหล่านั้น Noel Sharkeyเป็นนักทฤษฎีที่โดดเด่นในด้านนี้ เขาไม่ชอบหุ่นยนต์พวกนี้ที่โน้มน้าวคุณว่าพวกเขาทำได้มากกว่าที่ทำได้จริงๆ เขาเรียกพวกมันว่า “โชว์บอท” หนึ่งในตัวอย่างหลักที่เขาใช้โชว์บอทคือ โซเฟีย หุ่นยนต์ที่ได้รับสถานะพลเมืองกิตติมศักดิ์ในซาอุดีอาระเบีย นี่เป็นมากกว่าแชทบอทพื้นฐานเพราะมันอยู่ในร่างหุ่นยนต์ คุณสามารถบอกได้อย่างชัดเจนว่าโซเฟียเป็นหุ่นยนต์ โดยไม่มีเหตุผลอื่นใดนอกจากความจริงที่ว่าส่วนหลังของมันเป็นปลอกใส และคุณสามารถมองเห็นสายไฟและสิ่งของทั้งหมดได้
สำหรับ Sharkey ทั้งหมดนี้เป็นเพียงภาพลวงตา นี่เป็นเพียงควันและกระจก โซเฟียไม่รับประกันสถานะความเป็นตัวตนด้วยจินตนาการอันหลากหลาย มันไม่เข้าใจที่มันพูด มันไม่มีความหวัง ความฝัน ความรู้สึก หรืออะไรก็ตามที่จะทำให้มันเป็นเหมือนมนุษย์อย่างที่เห็น ความจริงก็คือ คนหลอกลวงเป็นปัญหา มันมีวลีที่แกว่งและพลาดมากมาย บางครั้งมันทำงานผิดพลาดหรือพูดสิ่งที่น่าสงสัยและทำให้เลิกคิ้ว แต่แม้ในที่ที่มันโปร่งใสที่สุด เราก็ยังดำเนินไปพร้อมกับภาพลวงตาในระดับหนึ่ง
มีหลายครั้งที่หุ่นยนต์พูดว่า “เป็นหุ่นเชิดบนเชือก” มันไม่ได้ทำอะไรอิสระมากเท่าที่เราคิด นอกจากนี้เรายังมีหุ่นยนต์ที่จะรับรอง หุ่นยนต์ Pepperไปที่คำรับรองของรัฐบาลเกี่ยวกับ AI เป็นเซสชันการรับฟังหลักฐานของสภาขุนนาง และดูเหมือนว่า Pepper กำลังพูดเพื่อตัวเอง โดยพูดทั้งหมด มันถูกตั้งโปรแกรมไว้ล่วงหน้าทั้งหมด และนั่นก็ไม่โปร่งใสสำหรับทุกคน และอีกครั้ง มันเป็นความเข้าใจผิดนั้น เป็นการจัดการโฆษณาที่ฉันคิดว่าเป็นปัญหาใหญ่
รีเบคก้า ไฮล์ไวล์
มันทำให้ฉันนึกถึงฉากนั้นจากThe Wizard of Ozที่ในที่สุดพ่อมดตัวจริงก็ถูกเปิดเผย การสนทนาเกี่ยวกับว่า AI มีความเกี่ยวข้องอย่างไรกับการอภิปรายที่สำคัญอื่น ๆ ที่เกิดขึ้นเกี่ยวกับ AI ในขณะนี้
สก็อตต์ มิดสัน
Microsoft Tay เป็นแชทบอทอีกตัวหนึ่งที่ส่งออกไปยัง Twitter และมีอัลกอริทึมของเครื่องที่จะเรียนรู้จากการโต้ตอบกับผู้คนใน Twittersphere ปัญหาคือ Tay ถูกหลอกและต้องถูกลบออกจาก Twitter ภายใน 16 ชั่วโมงเพราะเป็นการเหยียดเพศ เกลียดการปรักปรำ และเหยียดเชื้อชาติ
วิธีที่หุ่นยนต์เหล่านี้ – ไม่ว่าจะมีความรู้สึกหรือไม่ก็ตาม – สร้างขึ้นอย่างมากในภาพลักษณ์ของเรานั้นเป็นประเด็นทางจริยธรรมขนาดใหญ่อีกชุดหนึ่ง อัลกอริทึมจำนวนมากจะได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลที่เป็นมนุษย์ทั้งหมด พวกเขาพูดถึงประวัติศาสตร์ของเรา ปฏิสัมพันธ์ของเรา และพวกเขามีความลำเอียงโดยเนื้อแท้ มีการสาธิตอัลกอริธึมที่มีอคติบนพื้นฐานของเชื้อชาติ
คำถามความรู้สึก? ฉันเห็นว่ามันเป็นปลาเฮอริ่งแดงเล็กน้อย แต่จริงๆ แล้ว มันยังเชื่อมโยงกับวิธีที่เราสร้างเครื่องจักรในภาพของเรา และสิ่งที่เราทำกับภาพนั้น
รีเบคก้า ไฮล์ไวล์
Timnit Gebru และ Margaret Mitchell นักวิจัยด้านจริยธรรม AI ที่โดดเด่นสองคน ได้แจ้ง ข้อกังวลนี้ก่อนที่ทั้งคู่จะถูก Google ไล่ออก การนึกถึงการอภิปรายความรู้สึกและ AI เป็นสิ่งที่แยกจากกัน เราอาจพลาดข้อเท็จจริงที่ว่า AI ถูกสร้างขึ้นโดยมนุษย์
สก็อตต์ มิดสัน
เราแทบจะมองเครื่องจักรในลักษณะหนึ่งว่าแยกส่วน หรือแม้แต่เหมือนพระเจ้าในบางแง่ กลับไปที่กล่องดำนั่น มีบางอย่างที่เราไม่เข้าใจ มันคล้ายกับศาสนา มันน่าทึ่ง มันมีศักยภาพที่เหลือเชื่อ ถ้าเราดูโฆษณาทั้งหมดเกี่ยวกับเทคโนโลยีเหล่านี้ มันจะช่วยเราได้ แต่ถ้าเรามองแบบแยกส่วนแบบนั้น ถ้าเรามองว่าเป็นแบบเดียวกับพระเจ้า นั่นสนับสนุนเราอย่างไร?
เรื่องนี้เผยแพร่ครั้งแรกในจดหมายข่าว Recode ลงทะเบียนที่นี่เพื่อไม่ให้พลาดครั้งต่อไป!
