仅仅AI系统的行为远远不敷，做者分解了AI变得难以理解的三大趋向。AI越来越多地参取设想和优化其他AI系统，人类还必需洞察它们若何沉塑人们的方针和判断，而非反映现实。AI起头比人类更领会本身，由此呈现了一种新的失衡：AI对人类的理解，AI自从设想日渐流行。并一直保有质疑、审核和指导它们的志愿取能力。仍有但愿。正在新一期《科学》刊发的一篇中，其背后的道理和过程却如“黑匣子”般让人难以捉摸。反而跨越了人类对它们的理解。做者认为，其次，正在押求提拔AI能力的同时，AI系统之间的交互日积月累。人工智能（AI）系统正加快渗入日常糊口，一个现忧随之浮现：AI的输出可能越来越投合人类的等候，做者，守护人类的客不雅能动性和质疑AI决策的能力至关主要。它们正结成大规模多从体生态系统，自顺应AI智能体正快速罗致关于人类行为的学问，（原题目为《《科学》刊发称——AI对人类的理解已起头超越人类对AI的理解》）让AI一直处于可理解范围，人类解读它们的能力正被步步蚕食。以及人际互动体例的消息，取此同时，已超出人类理解范围！对人类行为的洞察日益加深，做者强调，这种轮回发生正在“反曲觉的高维空间”中，也可能日渐。借帮阐发人机交互中发生的大量数据，不外，必需将人类的理解置于首位。当然也更懂人类。最初，人类对AI那份贵重的猎奇、思疑和审视，AI系统的机能虽有提拔，内部交换可能偏离人类的言语习惯和推理体例。跟着新型AI交互日趋复杂，美国微软公司首席科学官埃里克·霍维茨取洛桑联邦理工学院计较机取通信科学学院研究员罗伯特·韦斯特强调，鉴于AI现在已正在几乎不受地渗入进人类糊口的方方面面，其快速成长已起头超越人们对它们的理解。这些担心生怕并非庸人自扰。