Pope Leo เตือนโลกเรื่อง AI — ทำไม AI Governance ต้องเริ่มจากศักดิ์ศรีมนุษย์ ไม่ใช่เทคโนโลยี

หนึ่งในประโยคที่ทรงพลังที่สุดใน Magnifica Humanitas คือ “Technology is never neutral” หรือ “เทคโนโลยีไม่เคยเป็นกลางอย่างแท้จริง” Pope Leo อธิบายว่า แม้เทคโนโลยีโดยตัวมันเองไม่ใช่สิ่งชั่วร้าย และไม่ใช่คำตอบสำเร็จรูปต่อปัญหาของมนุษย์ แต่ในทางปฏิบัติ เทคโนโลยีจะสะท้อนลักษณะของผู้ที่ออกแบบ ลงทุน กำกับ และใช้งานมันเสมอ  

นี่คือจุดเริ่มต้นของการเข้าใจ AI Governance อย่างลึกซึ้ง เพราะ AI ไม่ใช่เครื่องมือว่างเปล่าที่เป็นกลาง แต่สะท้อนเจตนา แรงจูงใจ ระบบคุณค่า อำนาจทางเศรษฐกิจ และโครงสร้างการตัดสินใจของผู้สร้างและผู้ใช้งาน AI ดังนั้น คำถามสำคัญจึงไม่ใช่เพียงว่า AI ทำอะไรได้ แต่คือ AI ถูกออกแบบให้รับใช้ใคร ใครเป็นผู้ควบคุม ใครได้ประโยชน์ ใครรับความเสี่ยง และใครต้องรับผิดชอบเมื่อเกิดผลกระทบ

ในอีกตอนหนึ่ง Pope Leo ใช้ภาพเปรียบเทียบระหว่าง Babel และ Jerusalem เพื่ออธิบายทางเลือกของมนุษยชาติในยุคเทคโนโลยี กล่าวคือ มนุษย์อาจสร้างเทคโนโลยีแบบ Babel ที่ถูกขับเคลื่อนด้วยความทะเยอทะยาน อำนาจ กำไร และการลดทอนมนุษย์ให้เป็นเพียงข้อมูลหรือประสิทธิภาพ หรืออาจเลือกสร้างเทคโนโลยีแบบ Jerusalem ที่ตั้งอยู่บนความรับผิดชอบร่วมกัน การฟังกัน ความหลากหลาย และ common good  

Babel คือ AI ที่ถูกขับเคลื่อนโดย power, profit, speed และ domination
Jerusalem คือ AI ที่ถูกกำกับด้วย dignity, accountability, justice และ shared responsibility

หลายคนอาจสงสัยว่า เหตุใดผู้นำทางศาสนาและคริสต์ศาสนาต้องเข้ามาพูดเรื่อง AI ทั้งที่ดูเหมือนเป็นเรื่องของนักเทคโนโลยี บริษัท AI หรือรัฐบาล คำตอบคือ ในมุมของ Catholic Social Doctrine เทคโนโลยีไม่ใช่สิ่งที่แยกออกจากมนุษย์ แต่เป็นพลังที่เปลี่ยนโครงสร้างชีวิต สังคม เศรษฐกิจ และความสัมพันธ์ระหว่างมนุษย์

ในอดีต คริสตจักรคาทอลิกเคยตอบสนองต่อการปฏิวัติอุตสาหกรรมผ่านสมณสาส์น Rerum Novarum ของ Pope Leo XIII ซึ่งเป็นเอกสารสำคัญเรื่องแรงงาน ทุน ความยุติธรรมทางเศรษฐกิจ และศักดิ์ศรีของคนทำงาน ปัจจุบัน Magnifica Humanitas ทำหน้าที่คล้ายกันในยุค AI กล่าวคือ ถ้า Rerum Novarum คือคำตอบของศาสนจักรต่อ Industrial Capitalism สมณสาส์นฉบับนี้ก็คือคำตอบต่อ AI Capitalism และอำนาจของเทคโนโลยีในศตวรรษที่ 21  

บทบาทของศาสนาในที่นี้จึงไม่ใช่การเข้ามาสอนว่า AI ควรทำงานอย่างไรในเชิงเทคนิค แต่คือการตั้งคำถามว่า AI ควรถูกใช้เพื่อใคร ใครได้ประโยชน์ ใครถูกทิ้งไว้ข้างหลัง และมนุษย์จะรักษาศักดิ์ศรี เสรีภาพ ความจริง และความหมายของชีวิตไว้อย่างไรในยุคที่เครื่องจักรเริ่มคิด วิเคราะห์ และลงมือทำงานแทนมนุษย์ได้มากขึ้น

สิ่งที่ทำให้เหตุการณ์นี้ยิ่งน่าสนใจคือ Chris Olah ผู้ร่วมก่อตั้ง Anthropic ได้รับเชิญให้กล่าวในงานนำเสนอสมณสาส์นที่นครรัฐวาติกัน โดย Anthropic ระบุว่า การเข้าร่วมครั้งนี้เป็นส่วนหนึ่งของความพยายามในการขยายวงสนทนาเกี่ยวกับคำถามสำคัญที่ AI กำลังสร้างให้กับมนุษยชาติ  

Olah กล่าวอย่างตรงไปตรงมาว่า frontier AI labs รวมถึง Anthropic เอง ล้วนดำเนินงานภายใต้แรงจูงใจและข้อจำกัดหลายด้าน ไม่ว่าจะเป็นแรงกดดันทางธุรกิจ ความจำเป็นในการแข่งขันทางเทคโนโลยี แรงกดดันทางภูมิรัฐศาสตร์ รวมถึงความทะเยอทะยานของมนุษย์ เขาจึงยอมรับว่า แม้บริษัท AI จะมีเจตนาดี แต่ก็ไม่ควรถูกปล่อยให้กำกับตนเองเพียงลำพัง  

ประเด็นนี้สำคัญมากในเชิง AI Governance เพราะเป็นการยอมรับจาก “คนใน” บริษัท AI เองว่า โลกต้องมีเสียงจากภายนอก เช่น ศาสนา นักวิชาการ ภาคประชาสังคม รัฐบาล และผู้มีส่วนได้ส่วนเสียอื่น ๆ ที่สามารถตั้งคำถาม วิจารณ์ และตรวจสอบ AI labs ได้อย่างจริงจัง

กล่าวอีกนัยหนึ่ง กรณีนี้ทำให้เห็นว่า AI Governance ไม่ใช่แค่เรื่องของการออกแบบระบบให้ปลอดภัยในเชิงเทคนิค แต่ต้องมี external accountability หรือความรับผิดชอบที่ถูกตรวจสอบจากภายนอก เพื่อถ่วงดุลแรงจูงใจของตลาด การแข่งขันทางภูมิรัฐศาสตร์ และความเร็วของนวัตกรรม

ประเด็นเรื่อง external accountability ยิ่งชัดขึ้นเมื่อพิจารณากรณี Anthropic กับรัฐบาลสหรัฐเกี่ยวกับขอบเขตการใช้ AI ในภาคความมั่นคง Anthropic ระบุว่า ตนสนับสนุนการใช้ AI เพื่อภารกิจด้านความมั่นคงที่ถูกต้องตามกฎหมาย แต่มีสองกรณีที่ไม่ควรรวมอยู่ในสัญญา ได้แก่ mass domestic surveillance และ fully autonomous weapons ภายใต้เงื่อนไขที่ยังไม่มีมาตรการคุ้มครองและความน่าเชื่อถือเพียงพอ  

สาระสำคัญของกรณีนี้ไม่ใช่เพียงว่า Anthropic จะทำสัญญากับรัฐบาลหรือไม่ แต่คือคำถามที่ลึกกว่านั้นว่า บริษัท AI ควรกำหนดเส้นแบ่งทางจริยธรรมอย่างไร และสังคมควรปล่อยให้เรื่องสิทธิ ความเป็นส่วนตัว ความปลอดภัย และชีวิตมนุษย์ขึ้นอยู่กับการเจรจาระหว่างบริษัทเทคโนโลยีกับรัฐเพียงลำพังหรือไม่

นี่คือหัวใจของ AI Governance ในยุคใหม่ องค์กรต้องมี red lines หรือเส้นแบ่งที่ชัดเจนว่า AI ขององค์กรจะไม่ถูกใช้เพื่ออะไร แม้สิ่งนั้นจะทำได้ในเชิงเทคนิค หรืออาจสร้างประโยชน์ทางธุรกิจในระยะสั้นก็ตาม

AI Governance คือการกำกับ “อำนาจ” ไม่ใช่แค่กำกับ “เครื่องมือ”

บทเรียนจาก Pope Leo และ Anthropic สะท้อนตรงกันว่า AI Governance ไม่ควรถูกลดทอนให้เป็นเพียง checklist ด้านกฎหมาย privacy policy หรือเอกสาร compliance ภายในองค์กร แต่ต้องเป็นกระบวนการกำกับ อำนาจของ AI ใน 4 ระดับสำคัญ

ระดับแรกคือ Purpose หรือเป้าหมายของการใช้ AI องค์กรต้องตอบให้ได้ว่า AI ถูกใช้เพื่อสร้างคุณค่าอะไร และคุณค่านั้นสอดคล้องกับศักดิ์ศรีมนุษย์ ความไว้วางใจ ความเป็นธรรม และความรับผิดชอบเพียงใด

ระดับที่สองคือ Power หรืออำนาจที่ AI ได้รับ ยิ่ง AI สามารถตัดสินใจ เข้าถึงข้อมูล หรือดำเนินการแทนมนุษย์ได้มากเท่าไร องค์กรยิ่งต้องกำกับสิทธิ์ ขอบเขต และผลกระทบของ AI ให้ชัดเจนมากขึ้น

ระดับที่สามคือ Accountability หรือความรับผิดชอบ องค์กรต้องระบุให้ได้ว่าใครเป็นเจ้าของ AI use case ใครรับผิดชอบเมื่อ AI สร้างความเสียหาย ใครมีอำนาจหยุดระบบ และใครมีหน้าที่แก้ไขเมื่อเกิดความผิดพลาด

ระดับที่สี่คือ Human Dignity หรือศักดิ์ศรีของมนุษย์ AI ไม่ควรถูกใช้ในลักษณะที่ลดทอนมนุษย์ให้เป็นเพียงข้อมูล คะแนน ความเสี่ยง โปรไฟล์ หรือทรัพยากรที่ต้องถูก optimize เท่านั้น Pope Leo เตือนว่าในยุค AI และ robotics ไม่สามารถพึ่งพาเพียง “มือที่มองไม่เห็น” ของตลาดได้ แต่ต้องมีกลไกกำกับเศรษฐกิจและเทคโนโลยีให้มุ่งสู่ common good งานที่มีศักดิ์ศรี และการกระจายประโยชน์ของนวัตกรรมอย่างเป็นธรรม  

บทเรียนจาก Pope Leo และ Anthropic สะท้อนตรงกันว่า AI Governance ไม่ควรถูกลดทอนให้เป็นเพียง checklist ด้านกฎหมาย privacy policy หรือเอกสาร compliance ภายในองค์กร แต่ต้องเป็นกระบวนการกำกับ อำนาจของ AI ใน 4 ระดับสำคัญ

• ระดับแรกคือ Purpose หรือเป้าหมายของการใช้ AI องค์กรต้องตอบให้ได้ว่า AI ถูกใช้เพื่อสร้างคุณค่าอะไร และคุณค่านั้นสอดคล้องกับศักดิ์ศรีมนุษย์ ความไว้วางใจ ความเป็นธรรม และความรับผิดชอบเพียงใด

• ระดับที่สองคือ Power หรืออำนาจที่ AI ได้รับ ยิ่ง AI สามารถตัดสินใจ เข้าถึงข้อมูล หรือดำเนินการแทนมนุษย์ได้มากเท่าไร องค์กรยิ่งต้องกำกับสิทธิ์ ขอบเขต และผลกระทบของ AI ให้ชัดเจนมากขึ้น

• ระดับที่สามคือ Accountability หรือความรับผิดชอบ องค์กรต้องระบุให้ได้ว่าใครเป็นเจ้าของ AI use case ใครรับผิดชอบเมื่อ AI สร้างความเสียหาย ใครมีอำนาจหยุดระบบ และใครมีหน้าที่แก้ไขเมื่อเกิดความผิดพลาด

• ระดับที่สี่คือ Human Dignity หรือศักดิ์ศรีของมนุษย์ AI ไม่ควรถูกใช้ในลักษณะที่ลดทอนมนุษย์ให้เป็นเพียงข้อมูล คะแนน ความเสี่ยง โปรไฟล์ หรือทรัพยากรที่ต้องถูก optimize เท่านั้น Pope Leo เตือนว่าในยุค AI และ robotics ไม่สามารถพึ่งพาเพียง “มือที่มองไม่เห็น” ของตลาดได้ แต่ต้องมีกลไกกำกับเศรษฐกิจและเทคโนโลยีให้มุ่งสู่ common good งานที่มีศักดิ์ศรี และการกระจายประโยชน์ของนวัตกรรมอย่างเป็นธรรม  

สิ่งที่ทำให้ Magnifica Humanitas มีความสำคัญกว่ากรอบ AI Ethics ทั่วไป คือ Pope Leo ไม่ได้จำกัดความเสี่ยงของ AI ไว้เพียงเรื่อง privacy, bias, hallucination หรือ cybersecurity แต่ขยายไปสู่คำถามที่ใหญ่กว่า ได้แก่ Truth, Work, Freedom และ Peace

ในมิติของ Truth AI สามารถกระทบต่อความจริง สื่อ ความเข้าใจร่วมของสังคม และประชาธิปไตย หาก AI ถูกใช้เพื่อผลิตหรือขยายข้อมูลที่บิดเบือน สังคมอาจสูญเสียฐานร่วมในการตัดสินใจอย่างมีเหตุผล

ในมิติของ Work AI ไม่ได้กระทบเพียงจำนวนงานที่อาจถูกแทนที่ แต่กระทบต่อศักดิ์ศรีของงาน ความหมายของการทำงาน การเรียนรู้ของคนรุ่นใหม่ และโอกาสในการพัฒนาความสามารถของมนุษย์

ในมิติของ Freedom AI อาจสร้างรูปแบบใหม่ของการพึ่งพา การควบคุมพฤติกรรม การค้าเชิงข้อมูล และการทำให้มนุษย์ตัดสินใจน้อยลงโดยไม่รู้ตัว

ในมิติของ Peace Pope Leo เตือนว่า AI อาจทำให้การใช้กำลังดูง่ายขึ้น โดยเฉพาะเมื่อเทคโนโลยีสามารถลดบทบาทของมนุษย์ในกระบวนการตัดสินใจด้านความมั่นคงและการใช้อาวุธ Reuters รายงานว่า Pope Leo เรียกร้องให้รัฐบาลกำกับดูแล AI อย่างจริงจัง และเตือนถึงความเสี่ยงของอาวุธบางประเภทที่อาจอยู่นอกเหนือการควบคุมของมนุษย์  

สำหรับผู้บริหารไทย บทเรียนสำคัญจากกรณี Pope Leo และ Anthropic คือ องค์กรไม่ควรถามเพียงว่า “เราจะใช้ AI ตัวไหนดี” หรือ “AI จะช่วยลดต้นทุนได้เท่าไร” แต่ต้องถามให้ลึกกว่าเดิมว่า

“AI ของเรากำลังรับใช้คุณค่าอะไร และใครจะรับผิดชอบเมื่อ AI สร้างผลกระทบต่อคน”

ในทางปฏิบัติ องค์กรไทยควรเริ่มสร้าง AI Governance อย่างน้อย 5 เรื่อง

หนึ่ง กำหนด AI Use Policy ที่ชัดเจน
องค์กรควรระบุว่า AI ใช้ได้ในกรณีใด ใช้ไม่ได้ในกรณีใด ข้อมูลประเภทใดห้ามนำเข้า AI และ use case ใดต้องผ่านการอนุมัติระดับสูงก่อนนำไปใช้จริง

สอง ระบุ AI Accountability Owner สำหรับแต่ละ use case
ต้องหลีกเลี่ยงภาวะที่ “ทุกคนเกี่ยวข้อง แต่ไม่มีใครรับผิดชอบจริง” โดยกำหนดเจ้าของระบบ เจ้าของข้อมูล ผู้ตรวจสอบ และผู้มีอำนาจตัดสินใจให้ชัดเจน

สาม ออกแบบ Human Oversight ที่มีความหมาย
โดยเฉพาะในงานที่กระทบลูกค้า พนักงาน เครดิต การแพทย์ การศึกษา ความปลอดภัย หรือข้อมูลส่วนบุคคล มนุษย์ต้องไม่เป็นเพียงผู้กดอนุมัติแบบผิวเผิน แต่ต้องสามารถเข้าใจ ตรวจสอบ หยุด หรือ override ระบบได้จริง

สี่ สร้างช่องทาง External Review หรือ Stakeholder Feedback
องค์กรควรเปิดให้เสียงจากลูกค้า พนักงาน ผู้เชี่ยวชาญ หน่วยงานกำกับ และผู้มีส่วนได้ส่วนเสียภายนอกสะท้อนความเสี่ยงที่ผู้พัฒนา AI หรือผู้บริหารภายในอาจมองไม่เห็น

ห้า กำหนด Ethical Red Lines
องค์กรต้องระบุให้ชัดว่า AI ขององค์กรจะไม่ถูกใช้เพื่ออะไร เช่น การละเมิดความเป็นส่วนตัว การเลือกปฏิบัติ การตัดสินใจสำคัญโดยไม่มีมนุษย์ตรวจสอบ หรือการใช้ AI ในลักษณะที่บั่นทอนศักดิ์ศรีมนุษย์

กรณี Pope Leo และ Anthropic ชี้ให้เห็นว่า AI Governance กำลังเข้าสู่ช่วงใหม่ จากเดิมที่องค์กรจำนวนมากมอง AI Governance เป็นเรื่องของ privacy, cybersecurity, fairness หรือ compliance ไปสู่คำถามที่ลึกกว่า คือ AI จะทำให้มนุษย์และสังคมดีขึ้นจริงหรือไม่

นี่คือเหตุผลที่ AI Governance ต้องเริ่มจากศักดิ์ศรีมนุษย์ ไม่ใช่เทคโนโลยี เพราะเทคโนโลยีเปลี่ยนเร็วกว่าองค์กร กฎหมาย และสังคมเสมอ แต่หลักการเรื่องความรับผิดชอบ ความโปร่งใส ความเป็นธรรม การตรวจสอบได้ การเคารพมนุษย์ และ common good คือฐานที่องค์กรต้องยึดไว้ ไม่ว่าเทคโนโลยีจะเปลี่ยนไปเร็วเพียงใด

สำหรับองค์กรไทย นี่ไม่ใช่เรื่องไกลตัว เพราะ AI กำลังเข้าไปอยู่ในระบบงานจริง ตั้งแต่การตลาด การขาย การบริการลูกค้า การเงิน ทรัพยากรบุคคล การแพทย์ การศึกษา และการบริหารความเสี่ยง หากไม่มี governance ที่ดี AI อาจสร้างประสิทธิภาพในระยะสั้น แต่บั่นทอนความไว้วางใจในระยะยาว

ในยุค AI คำถามสำคัญที่สุดจึงไม่ใช่ “เทคโนโลยีทำอะไรได้” แต่คือ

“มนุษย์จะกำกับอำนาจของเทคโนโลยีอย่างไร ไม่ให้ทำลายศักดิ์ศรี ความจริง งาน เสรีภาพ และสันติภาพ”

Magnifica Humanitas ทำให้โลกเห็นว่า AI Governance ไม่ใช่เรื่องของฝ่าย IT หรือ compliance เท่านั้น แต่เป็นวาระของผู้นำองค์กร บอร์ด ผู้กำหนดนโยบาย และสังคมโดยรวม เพราะ AI ไม่ได้เป็นเพียงเครื่องมือใหม่ แต่เป็นอำนาจใหม่ที่กำลังเปลี่ยนวิธีที่มนุษย์ทำงาน ตัดสินใจ อยู่ร่วมกัน และเข้าใจความจริง

สำหรับผู้บริหารไทย บทเรียนสำคัญคือ AI Governance ต้องไม่ถูกมองเป็นภาระ แต่ต้องถูกมองเป็น Trust Infrastructure หรือโครงสร้างพื้นฐานแห่งความไว้วางใจ ที่ช่วยให้องค์กรสามารถใช้ AI ได้อย่างปลอดภัย โปร่งใส ตรวจสอบได้ มีความรับผิดชอบ และยังคงรักษาศักดิ์ศรีของมนุษย์ไว้ในทุกขั้นตอนของการเปลี่ยนผ่าน

องค์กรที่ชนะในยุค AI จึงไม่ใช่องค์กรที่ใช้ AI ได้เร็วที่สุดเท่านั้น แต่คือองค์กรที่สามารถกำกับอำนาจของ AI ให้รับใช้มนุษย์ ความจริง งาน เสรีภาพ และ common good ได้ดีที่สุด