人工智能（Artificial Intelligence，AI）发轫于20世（shì）纪50年代，至今已经历了三（sān）次发展浪潮，不管是实验室阶段（duàn）还（hái）是（shì）大规模产业（yè）化阶（jiē）段（duàn），研究者们（men）几十年如一日不变的都是（shì）推进其技术的进步，希望机器（qì）真的有一天能（néng）具有（yǒu）一般人类智慧，执行全方位（wèi）的（de）人（rén）类认知能力（lì）。

近年来，为了让AI更加健（jiàn）康发展，有一项技（jì）术（shù）领域（yù）正在成（chéng）为产业界和学（xué）术界研究的重点：可（kě）信AI，即将人类社会的正面价值观，通（tōng）过技术赋予（yǔ）到（dào）人工智能上，包括可解释、公平性、隐私（sī）保护和公平性。

从学术研究层面来说，可信AI主要是针对算法和系统层面的研究，包括安（ān）全性/鲁棒性、可解释性、隐私性、公平（píng）性、可审计性/问责性、环境保护。可解释性包括学（xué）习方（fāng）法或模型的理（lǐ）论可解释、算法（fǎ）可解释、行为可解释；鲁棒性主要针对模型稳定性研（yán）究、攻击模型和防守模型；隐私保护指的（de）是攻击与保护（hù）方法直（zhí）接的博弈，如差分隐私、多中心联邦学习；公平性针对的是（shì）各种数据、模型（xíng）的偏置研究，平（píng）等和（hé）公正的（de）平衡；而环保指的是寻求（qiú）高能效策略，更高能效的（de）计（jì）算硬（yìng）件（jiàn）。

与可信AI学术研究不同，企业更多是（shì）针（zhēn）对当下的问（wèn）题，提出解（jiě）决方案。如2015年，蚂蚁（yǐ）集团启（qǐ）动基于“端特征”的手机丢失（shī）风（fēng）险研究（jiū）项（xiàng）目，旨在用（yòng）AI技术保护用户（hù）的隐私安全（quán）。为了解决了AI中的公（gōng）平性（Fairness），IBM于2018年（nián）开发（fā）了多个（gè）AI可信工具，在AI系统中采用不带偏见的数据集和（hé）模型，从而避免对（duì）特（tè）定群体的不公平。产（chǎn）业界对（duì）可信AI的应用加更加苛刻，容错率更高。很多可（kě）信AI白皮书提（tí）到，可信AI真正落地（dì）起来，需要放到（dào）生产流（liú）程（chéng）里面，让其成为（wéi）一种（zhǒng）机（jī）制，发挥技术的约束作（zuò）用。

青年学生（shēng）是重要的技术人才储备（bèi）。对（duì）于（yú）研（yán）究可（kě）信AI的青年学（xué）生来说，对（duì）从事可信AI怎么准（zhǔn）备，在他（tā）们现在的学习和（hé）生活中，就（jiù）应了解学术的前沿，以及业界最新技术（shù）趋势，思考哪（nǎ）些技术可以应用到（dào）哪些问（wèn）题上，主动观察了（le）解所处的（de）世界，以及业界的需求痛点和技（jì）术瓶颈。比如，最（zuì）近一档可（kě）信（xìn）AI实（shí）战科技真人秀，就（jiù）联动了（le）全国一些顶尖（jiān）高校，通过可信AI在工业界“科技反诈”当中的应用（yòng），还原了可信AI技（jì）术（shù）在实际应用中的能力，把（bǎ）学术界和产业界正在（zài）做的事，通过大（dà）家都能理解的形式打通起来，让技术从业者、技术研究者都深度参与其中（zhōng）。

做AI研究，“复杂度（dù）”是一个（gè）关键词。环境复杂度、任务复杂（zá）度、系统复杂度决定了（le）AI的水平。对它的研究可（kě）以揭示AI产生原理，也（yě）可以回答AI的终（zhōng）极问（wèn）题，即对人（rén）类命运的最终（zhōng）影响。未来可信AI研究，也要从复杂度分析来看AI为人类带来的价（jià）值，更需要学界（jiè）和产业界共同努力（lì）来推动。