ផ្នែកដែលមិនទាន់កំណត់នេះ គឺជាកន្លែងដែលយើងត្រូវចាប់ផ្តើមការពិនិត្យពិច័យយ៉ាងស៊ីជម្រៅបំផុតអំពីទំនាក់ទំនងដ៏ស្មុគស្មាញ និងជាមូលដ្ឋានគ្រឹះរវាងមនុស្សជាតិ និងបច្ចេកវិទ្យាដ៏ទំនើបបំផុត ដែលយើងធ្លាប់បានបង្កើតឡើង។ បញ្ញាសិប្បនិម្មិត (AI) មិនមែនគ្រាន់តែជាឧបករណ៍ថ្មីមួយប៉ុណ្ណោះទេ វាគឺជាកញ្ចក់ឆ្លុះបញ្ចាំងពីបញ្ញា ដែនកំណត់ និងសក្តានុពលនៃអត្ថិភាពរបស់យើង។ ផ្នែកនេះរុករកនូវទីតាំងទស្សនវិជ្ជា ចិត្តសាស្ត្រ និងសីលធម៌ ដែលមនុស្សត្រូវតែកំណត់ឡើងវិញនូវនិយមន័យនៃភាពជាខ្លួនឯង នៅពេលដែលម៉ាស៊ីនចាប់ផ្តើមគិត—ឬយ៉ាងហោចណាស់ក៏ធ្វើត្រាប់តាមការគិត—ដោយប្រសិទ្ធភាព និងល្បឿនដែលលើសលប់។ ចំណុចដំបូងនៃការវិភាគគឺទាក់ទងនឹងភាពខុសគ្នារវាងការគណនា និង ស្មារតី។ AI គឺពូកែក្នុងការប្រមូលទិន្នន័យ ដំណើរការលំនាំ និងអនុវត្តតក្កវិជ្ជាដែលបានកំណត់។ វាជាកំពូលនៃប្រព័ន្ធតក្កវិទ្យា។ ប៉ុន្តែតើ AI អាចជួបប្រទះនូវភាពសប្បាយរីករាយ ទុក្ខព្រួយ ការយល់ចិត្ត ឬការយល់ដឹងពីខ្លួនឯង (Self-awareness) បានដែរឬទេ? សមត្ថភាពរបស់មនុស្សក្នុងការមាន «អារម្មណ៍» (Qualia) ដែលកើតចេញពីបទពិសោធន៍ផ្ទាល់ខ្លួន គឺជាគម្លាតដ៏ជ្រៅដែលបំបែកមនុស្សចេញពីម៉ាស៊ីន។ បើយើងបណ្តោយឲ្យការសម្រេចចិត្តដែលមានឥទ្ធិពលលើជោគវាសនារបស់មនុស្សជាតិត្រូវបានគ្រប់គ្រងទាំងស្រុងដោយតក្កវិជ្ជាសុទ្ធសាធដែលគ្មានសីលធម៌ ឬការប្រែប្រួលតាមកាលៈទេសៈនោះ យើងនឹងប្រឈមនឹងការបាត់បង់ស្នូលនៃ តម្លៃមនុស្សជាតិ។ នេះមិនមែនជាការបដិសេធចំពោះវឌ្ឍនភាពនោះទេ ប៉ុន្តែជាការអំពាវនាវឱ្យមានការបញ្ចូលទស្សនវិជ្ជានៅក្នុងការអភិវឌ្ឍបច្ចេកវិទ្យា។ បើគ្មានការយល់ដឹងពីគុណធម៌ សេចក្តីមេត្តា និងការវិនិច្ឆ័យដ៏ជ្រៅដែលឆ្លងផុតពីគ្រាន់តែជាទិន្នន័យទេ AI អាចនឹងក្លាយជាប្រព័ន្ធមួយដែលមានប្រសិទ្ធភាពបំផុត ប៉ុន្តែបែរជាគ្មានព្រលឹងទៅវិញ។ ភាពចាំបាច់ក្នុងការថែរក្សានូវទិដ្ឋភាពដែលមិនអាចវាស់វែងបាននៃភាពជាមនុស្ស ដូចជាការច្នៃប្រឌិតដោយឯកឯង និងការប៉ះពាល់ផ្នែកអារម្មណ៍ គឺជារបៀបវារៈដំបូងបំផុតដែលត្រូវដោះស្រាយ ដើម្បីធានាថាការអភិវឌ្ឍន៍ AI បម្រើដល់ការរីកចម្រើនរបស់មនុស្ស មិនមែនជាការបន្ទាបបន្ថោកឡើយ។ ឥឡូវនេះយើងស្ថិតនៅត្រង់ចំណុចប្រសព្វដ៏គ្រោះថ្នាក់មួយដែលទាមទារឱ្យមានការតាំងចិត្តដ៏ខ្លាំងក្លា។ តើអនាគតនឹងជាសង្គ្រាមរវាងការងាររបស់មនុស្ស និងម៉ាស៊ីន ឬជា ការរួមរស់ ប្រកបដោយប្រសិទ្ធភាព? ចម្លើយពិតស្ថិតនៅក្នុងការបង្រៀនខ្លួនឯងឱ្យចេះធ្វើជាម្ចាស់លើ AI មិនមែនជាទាសកររបស់វាឡើយ។ វាទាមទារឱ្យមានការផ្លាស់ប្តូរផ្នត់គំនិត ពីការប្រកួតប្រជែងទៅជា ការពង្រីកសមត្ថភាព។ យើងត្រូវតែប្រើប្រាស់ AI ជាឧបករណ៍សម្រាប់បង្កើនសក្តានុពល និងវិចារណញ្ញាណរបស់មនុស្សយើង មិនមែនដើម្បីជំនួសតួនាទីជាអ្នកសម្រេចចិត្តដែលមានមនសិការឡើយ។ គោលដៅគឺមិនមែនដើម្បីបង្កើត AI ដែលមានសមត្ថភាពធ្វើការដូចមនុស្សនោះទេ ប៉ុន្តែដើម្បីបង្កើត AI ដែលអាចដោះស្រាយបញ្ហាស្មុគស្មាញបំផុតរបស់ពិភពលោក (ដូចជាការប្រែប្រួលអាកាសធាតុ ជំងឺរាតត្បាត និងវិសមភាព) ក្នុងល្បឿនដែលមនុស្សតែម្នាក់ឯងមិនអាចធ្វើបាន។ ដំណើរការនេះតម្រូវឱ្យយើងធ្វើការអប់រំឡើងវិញនូវប្រព័ន្ធគំនិតរបស់យើង ផ្តោតលើភាពប៉ិនប្រសប់ក្នុងការប្រើប្រាស់ប្រាជ្ញារបស់មនុស្សដើម្បីកំណត់គោលដៅខាងសីលធម៌ មុននឹងបច្ចេកវិទ្យាចាប់ផ្តើមស្វែងរកមធ្យោបាយដ៏ល្អបំផុតដើម្បីសម្រេចបានគោលដៅទាំងនោះ។ ភាពជាម្ចាស់លើ អនាគតរួម ទាមទារឱ្យមនុស្សមានភាពក្លាហានក្នុងការកំណត់ព្រំដែន មុនពេលយើងបាត់បង់សមត្ថភាពក្នុងការគ្រប់គ្រងពួកវា។