具体实施方式

在下文中，将参考附图详细描述本公开的优选实施例。注意，在本说明书和附图中，具有基本相同功能配置的组件由相同的附图标记表示，并且将省略重复的描述。

注意，将按以下顺序提供描述。

1.本公开的技术背景

1.1.根据本公开的技术的概要

1.2.主体的配置

1.3.信息处理系统的概要

2.信息处理系统的配置

3.信息处理系统的操作

4.信息处理系统的修改示例

4.1.第一修改示例

4.2.第二修改示例

5.硬件配置

6.补充说明

<1.本公开的技术背景>

(1.1.根据本公开的技术的概要)

首先，将参考图1描述根据本公开的技术的概要。图1是示出根据本公开的技术的应用示例的示意图。

如图1中所示，根据本公开的技术涉及例如由属于预定社区Com的多个用户共享的主体A。预定社区Com可以是例如包括家人、朋友、同一公司的员工、同一地区的居民或具有相同爱好的朋友的社区。

主体A例如是通过与用户2通信来输入和输出信息P的软件接口。用户2可以经由主体A接收例如对日常活动的支持。特别地，主体A可以通过在会话的基础上输入和输出信息P或模仿特定角色的个性来更顺畅地与用户2通信。

具体地，用户2可以通过将自己的日程、动作报告等告知主体A，经由主体A将自己的日程或动作报告登记在对应的数据库中。另外，用户2向主体A请求诸如工作支持、作为代理执行工作或购买物品之类的服务，从而能够经由主体A向对应的外部服务5发出服务请求。这样，主体A可以根据目的或用途积累或向外输出用户2通过会话等输入的信息P。

然而，根据本公开的技术不限于以上示例。用户2和主体A之间的输入/输出(即，交互)可以使用除语音以外的各种输入/输出手段来执行。例如，可以使用图形用户界面(GUI)、手势、视线等来执行从用户2到主体A的输入。此外，可以使用语音、图像或视频来执行从主体A到用户2的输出。

此外，主体A基于用户2在会话等中的输入积累关于用户2的信息。主体A基于所积累的关于用户2的信息预测用户2的个人特征或行为特征，使得主体A可以为用户2执行针对用户2优化(即，个性化)的回应。

在此，主体A可以向用户2以外的第三方3披露关于用户2的信息p，以支持属于社区Com的用户之间的通信。

例如，主体A可以将关于用户2的信息p披露给第三方3，以进行社区Com中的日程共享或互联网上动作历史(例如，运动图像观看历史或互联网购物历史)的共享。此外，主体A可以在与第三方3的聊天中将关于用户2的信息p披露给第三方3，或将关于用户2的信息p作为来自用户2的消息或动作报告披露给第三方3，以进行社区Com内的信息共享。此外，主体A可以向第三方3披露关于存在/不存在来自用户2的工作支持请求或其频率的信息p，以便利于社区Com内的工作。

此外，主体A可以向外部服务5披露关于用户2的信息，以便作为用户2所指示的代理执行工作。

例如，主体A可以将关于用户2的信息p披露给外部服务5，以便作为代理管理用户2的日程、建议和安排旅行，或者进行日常必需品等的定期购买。此外，主体A可以将关于用户2的信息p披露给外部服务5，以便与诸如社交网络服务(SNS)之类的服务或平台合作。

然而，主体A所积累的关于用户2的信息可能包括对于用户2具有高度机密性的敏感信息。敏感信息例如是对用户2敏感的信息。因此，用户2不希望披露全部信息，并且希望控制要披露的内容及其范围。具体地，敏感信息可以包括关于用户2的隐私的信息、关于用户2的感受的信息、关于用户2的精神和身体状况的信息、关于用户2的动作历史的信息等。此外，敏感信息可以包括不适合向第三方3披露的信息。这种不适合向第三方3披露的信息可以包括例如关于用户2对第三方3的评价的信息、关于否定话语的信息等。

主体A在未经用户2许可的情况下将用户2的此类敏感信息披露给第三方3可能会给用户2带来不利，并且影响用户2与主体A之间的信任关系。因此，需要基于用户2的动作积累关于用户2的各种信息的主体A适当地处理与用户2的敏感信息相对应的信息。具体地，在将与用户2的敏感信息相对应的信息披露给第三方3的情况下，需要主体A适当控制披露模式。

考虑到以上情况构思了根据本公开的技术。根据本公开的实施例的信息处理系统从基于用户2的动作在主体A中积累的信息中分类出与敏感信息相对应的信息，并指定与敏感信息相对应的信息。结果，在向用户2以外的第三方3披露信息的情况下，根据本公开的实施例的信息处理系统可以基于要披露的信息是否对应于敏感信息来适当地控制信息的披露模式。

注意，在如下假设下提供以下描述：第三方3包括以下二者：使用主体A的用户2以外的用户以及从主体A接收一些请求的外部服务5。

(1.2.主体的配置)

接下来，将参考图2详细描述根据本实施例的信息处理系统1中提供的主体A。图2是示出用于实现主体A和用户2之间的基本会话功能的配置的框图。

如图2中所示，根据本实施例的信息处理系统1包括内部数据库DB、信息处理单元PU和接口IF。

接口IF向用户2或外部环境输入各种类型的信息以及从用户2或外部环境输出各种类型的信息。具体地，接口IF可以通过使用各种传感器获取关于用户2所处的外部环境的信息，并将所获取的环境信息输入到信息处理系统1。各种传感器所获取的环境信息可以是关于用户2所在地方的位置的信息，关于用户2所在地方中的时间的信息，关于用户2所在地方的信息，诸如天气、温度、湿度和照度，关于用户2当前执行的动作的信息，关于用户2感兴趣的事件的信息等。

此外，接口IF可以通过使用麦克风等获取用户2的话语信息，并将所获取的话语信息输入到信息处理系统1。此外，接口IF可以通过使用扬声器、耳机等将信息处理系统1所生成的语音信息输出给用户2。结果，用户2可以经由接口IF与信息处理系统1中提供的主体A进行语音会话。

然而，在用户2和主体A之间的输入/输出通过使用语音以外的手段来执行的情况下，毋庸赘言，接口IF可以包括诸如麦克风、扬声器或耳机之类的语音输入/输出装置以外的输入/输出装置。

例如，在通过使用GUI进行从用户2到主体A的输入的情况下，接口IF可以通过使用诸如鼠标、键盘、触摸板、按钮、开关或控制杆之类的输入手段来获取用户2输入的信息。在通过使用手势进行从用户2到主体A的输入的情况下，接口IF可以通过使用佩戴在用户2身体上的可穿戴终端中设置的加速度传感器或陀螺仪传感器、成像装置等，来获取用户2通过手势输入的信息。在通过使用视线进行从用户2到主体A的输入的情况下，接口IF可以通过使用检测用户2的视线的成像装置等，获取用户2通过使用视线输入的信息。

另一方面，在通过使用图像或视频进行从主体A到用户2的输出的情况下，接口IF可以通过使用显示装置将图像或视频呈现给用户2，显示装置诸如是阴极射线管(CRT)显示装置、液晶显示装置、等离子体显示装置、电致发光(EL)显示装置、激光投影仪、发光二极管(LED)投影仪或灯。

内部数据库DB是存储各种类型的信息的存储单元。内部数据库DB可以存储例如经由接口IF获取的用户2所在地方的环境信息。此外，内部数据库DB可以存储用户模型，在该用户模型中积累了关于用户2的信息。此外，内部数据库DB可以存储AI模型，该AI模型限定主体A独有的个性。

用户模型用于相对于用户2优化主体A的对应关系。用户模型可以包括例如用户2的属性信息、关于用户2的动作历史的信息、从这些信息估计的关于用户2的状态的信息等。用户2的属性信息可以包括例如关于用户2的性别、年龄、种族、国籍、家乡、居住地、职业、历史(例如，教育背景和工作经历)、家庭成员、资格等的信息。此外，关于用户2的动作历史的信息可以包括关于用户2的位置历史、互联网操作历史、对主体A或第三方3的话语历史或主体A的操作历史的信息。此外，关于用户2的估计状态的信息可以包括关于用户2的政治信条、健康状况、精神状况或资产状况的信息。

注意，用户模型可以将关于用户2的信息划分为一般用户信息和用户特定信息。一般用户信息例如是提供信息处理系统1的服务提供方假设的标准或普通虚拟用户的信息。另一方面，用户特定信息是特定于用户2的信息，并且是基于用户2的动作为每个用户积累的信息。通过这种配置，信息处理系统1通过在用户之中分享用户模型的一部分作为一般用户信息，仅需存储与一般用户信息之差异作为针对每个用户2的用户特定信息，从而可以减小内部数据库DB的所占据的存储容量。

AI模型包括定义主体A独有的个性的信息。AI模型可以包括例如关于主体A的角色设置的信息、关于主体A的个性特征的信息或关于主体A的话语模式(使用的词、说话习惯等)的信息。基于AI模型中包含的各种类型的信息确定主体A的话语内容。注意，AI模型不一定存储在内部数据库DB中。然而，在AI模型存储在内部数据库DB中的情况下，主体A的个性可以被呈现给用户2，从而信息处理系统1可以期待促进用户2和主体A之间的通信。

信息处理单元PU响应于来自用户2的输入来控制来自主体A的输出。具体地，信息处理单元PU通过诸如前提条件生成、意义理解和话语候选生成之类的处理，来控制主体A相对于来自用户2的输入的输出。

首先，信息处理单元PU为主体A生成说出话语的前提条件。具体地，信息处理单元PU通过使用经由接口IF获取的关于外部环境的信息、存储在内部数据库DB中的环境信息以及用户模型，来生成作为主体A的话语的前提的条件(即，上下文等)。

接下来，信息处理单元PU基于前提条件理解用户2的话语内容的含义，并基于理解结果生成含义信息。具体地，信息处理单元PU基于前提条件理解用户2的话语中包含的每个词的含义，并综合这些含义，以生成指示用户2的话语内容的含义的含义信息。

随后，信息处理单元PU基于生成的含义信息和存储在内部数据库DB中的环境信息、用户模型和AI模型，来生成主体A的话语候选。具体地，信息处理单元PU基于生成的含义信息、环境信息和用户模型，掌握用户2的话语中包括的意图或请求，并基于AI模型生成与用户2的话语相对应的主体A的话语内容的候选。

注意，信息处理单元PU可以监督针对主体A的话语内容所生成的候选。例如，信息处理单元PU可以确定在针对话语内容的所生成候选中是否包括不优选由主体A发出的词(例如，否定表达、社交不适当表达等)，并控制话语内容以不包括不优选的词。此外，在主体A具有基于AI模型的预定个性的情况下，信息处理单元PU可以确定在针对话语内容的所生成候选中是否包括与主体A的个性不匹配的表达，并控制话语内容，以不包括不与个性匹配的表达。

此后，信息处理系统1从话语内容候选确定话语内容，并经由接口IF将所确定的话语内容从主体A输出至用户2。

通过以上配置，在根据本实施例的信息处理系统1中，所提供的主体A可以输出对来自用户2的话语的自然响应。

(1.3.信息处理系统的概要)

接下来，将参考图3详细描述根据本实施例的信息处理系统中包括的设备。图3是示出根据本实施例的信息处理系统中包括的设备的示例的示意图。

如图3中所示，信息处理系统1可以包括例如信息处理设备10和用户终端20。信息处理设备10和用户终端20可以经由网络30以有线或无线方式彼此连接。

信息处理设备10生成例如主体A所发出的话语内容。信息处理设备10可以将关于所生成的话语内容的信息输出至经由网络30连接的用户终端20。

用户终端20例如将基于关于经由网络30从信息处理设备10输入的话语内容的信息生成的语音信号作为语音输出给用户2。

用户终端20可以是如图3中所示的所谓的智能扬声器，但不限于该示例。用户终端20可以例如是移动电话、平板终端、个人计算机(PC)、游戏机、可穿戴终端(智能眼镜、智能手环、智能手表、智能颈等)，或模仿人类、各种动物、各种角色等的机器人。

<2.信息处理系统的配置>

接下来，将参考图4描述用于在根据本实施例的信息处理系统1中实现根据本公开的技术的配置。图4是示出用于在根据本实施例的信息处理系统1中实现根据本公开的技术的配置的框图。

如图4中所示，信息处理系统1中包括的信息处理设备10包括用户信息积累单元110、状态估计单元120、指定单元130、敏感信息项目数据库140和披露控制单元150。然而，毋庸赘言，包括在信息处理设备10中的这些功能中的一些或全部可以被包括在用户终端20中。

用户信息积累单元110积累关于用户2的信息以构建用户2的用户模型。

具体地，用户信息积累单元110可以基于从用户2输入的信息或从另一协作外部服务输入的信息来积累用户2的属性信息。用户2的属性信息是属于用户2的恒定(即，不改变或在一定时间段内不改变)信息。例如，用户2的属性信息可以是关于用户2的性别、年龄、种族、国籍、家乡、居住地、职业、历史(例如，教育背景和工作经历)、家庭成员、资格等的信息。

此外，用户信息积累单元110可以基于用户2的对话或动作来积累关于用户2的动作历史的信息。关于用户2的动作历史的信息是关于可以由主体A获取的用户2的对话或动作的历史的信息。例如，关于用户2的动作历史的信息可以是关于如下历史的信息：指示用户2的移动的位置信息的历史、用户2的网页浏览或输入历史、用户2的在线商店购物历史、用户2的在线银行交易历史等、用户2的外部服务使用历史、用户2关于主体A或第三方3的话语内容和所使用单词的历史、用户2对主体A的操作历史等。

此外，用户信息积累单元110可以积累关于由状态估计单元120估计的用户2的状态的信息。关于用户2的状态的信息是关于由稍后描述的状态估计单元120基于由主体A获取的信息估计的用户2的状态的信息。例如，关于用户2的状态的信息可以是关于用户2的政治信条等的信息、关于用户2对他人的评价的信息、关于用户2的健康状况的信息、关于用户2的资产状态的信息、关于用户2的个性特征的信息、关于用户2的行为倾向模型的信息、关于用户2的精神状况的信息等。

注意，由用户信息积累单元110积累的关于用户2的信息不限于以上示例。用户信息积累单元110可以积累任何信息，只要其是关于用户2的信息并且得到用户2的许可。

状态估计单元120基于用户2输入的信息、用户2在另一外部服务中输入的信息或者关于用户2的对话或动作的信息来估计用户2的状态。关于由状态估计单元120估计的用户2的状态的信息积累在用户信息积累单元110中。例如，状态估计单元120可以基于用户2输入的信息、用户2在另一外部服务中输入的信息或者关于用户2的对话或动作的信息，来估计用户2的政治信条、用户2是否怀孕、用户2对他人的评价、用户2对他人的好坏情绪、用户2的健康状况、用户2的资产状态、用户2的精神状况等。用户2的健康状况可以包括例如估计用户2怀孕或估计用户2受伤。关于用户2的健康状况的信息可以对应于一些用户2的敏感信息。状态估计单元120所执行的对用户2的状态的估计可以基于例如机器学习算法来执行，或者可以基于预定规则来执行。

此外，状态估计单元120可以将关于用户2的所估计状态的信息标记为估计信息。这是因为状态估计单元120估计的用户2的状态有可能不准确。通过将关于用户2的状态的信息标记为估计信息，信息处理设备10可以将该信息与用户2自己输入的准确信息区分开。另外，信息处理设备10在向第三方3披露信息或基于该信息做出确定时，可以考虑该信息是估计信息的事实。例如，信息处理设备10可以控制披露模式，使得不向第三方3披露作为估计信息的关于用户2的状态的信息。

此外，状态估计单元120可以向标记为估计信息的信息添加关于估计的准确度(确定性)的信息。通过这样做，信息处理设备10可以控制披露模式，以便仅向第三方3披露更准确的估计信息。

指定单元130将在用户信息积累单元110中积累的信息中与敏感信息相对应的信息指定为与敏感信息相对应。具体地，指定单元130可以将在用户信息积累单元110中积累的信息中与敏感信息项目数据库140中设置的项目相对应的信息指定为与敏感信息相对应。此外，指定单元130可以针对与敏感信息相对应的每条信息，分别设置指示敏感信息的敏感度的敏感度水平。

敏感信息例如是对用户2高度机密且敏感于披露给第三方3的信息。因此，用户2可以请求限制向其披露敏感信息的第三方3的范围。敏感度水平是与敏感信息相对应的信息的机密性水平和敏感度，且被设置为分阶段控制与敏感信息相对应的信息的披露模式。例如，可以在敏感信息项目数据库140中预先设置与敏感信息相对应的信息的项目和该项目的敏感度。

例如，在敏感信息项目数据库140中，图5中所示的各种项目可以被设置为与敏感信息相对应的信息的项目。图5是示出作为与敏感信息相对应的信息在敏感信息项目数据库140中设置的项目的示例的表。注意，敏感信息项目数据库140可以存储在例如包括在信息处理设备10中的诸如硬盘驱动器(HDD)之类的存储装置中，可以存储在包括在用户终端20中的存储装置中，或者可以存储在连接到信息处理设备10的另一服务器的存储装置中。

如图5中所示，在敏感信息项目数据库140中，可以将针对用户2的个人信息的项目，诸如性别、年龄、种族、国籍、家乡或居住地设置为与敏感信息相对应的信息的项目。此外，在敏感信息项目数据库140中，可以将针对关于诸如LGBT、爱好/偏好和对他人的好感之类的用户2的本质的信息的项目设置为与敏感信息相对应的信息的项目。此外，在敏感信息项目数据库140中，可以将针对关于诸如健康状况、伙伴关系和是否怀孕之类的用户2的状态的信息的项目设置为与敏感信息相对应的信息的项目。此外，在敏感信息项目数据库140中，可以将针对诸如诽谤他人、亲属死亡之类的对用户2不利的信息的项目设置为与敏感信息相对应的信息的项目。此外，在敏感信息项目数据库140中，可以将关于用户2的动作历史的信息，诸如现实中和互联网上的动作历史以及主体操作历史的项目设置为与敏感信息相对应的信息的项目。

如图5中所示，可以在敏感信息项目数据库140中针对与敏感信息相对应的信息的项目中的每个分别设置敏感度水平。注意，在图5中所示的示例中，以如下方式设置敏感度水平，使得数字越大，则机密性或敏感度越高。

例如，可以为与用户2具有某种连接的第三方3可以容易知道的信息的项目设置较低敏感度水平，该信息诸如是性别、年龄、种族、国籍、家乡和居住地之类的个人信息。此外，可以为关于个人内部的信息的项目设置较高敏感度水平，这样的信息诸如是LGBT、对他人的好感和伙伴关系。此外，可以对诸如诽谤他人和亲属死亡之类的负面信息的项目设置较高敏感度水平。

注意，敏感信息项目数据库140中设置的信息项目可以基于用户2的特征而改变。具体地，敏感信息项目数据库140中设置的信息项目可以根据基于用户2的文化或社会背景(例如，用户2长大的国家、用户2所属的年龄段或用户2信仰的宗教)的价值模型针对每个用户2而改变。这是因为：认为用户2对各种类型的信息的敏感度或对披露的抵制取决于用户2的文化或社会价值模型而变化。例如，在用户2相信特定宗教或属于特定年龄组的情况下，可以进一步将与敏感信息相对应的信息的项目加到敏感信息项目数据库140。

通过以上配置，指定单元130可以基于在敏感信息项目数据库140中设置的项目，从用户信息积累单元110中积累的信息中分类出与敏感信息相对应的信息。另外，指定单元130将分类出的与敏感信息相对应的信息指定为与敏感信息相对应，以便在后续阶段中披露控制单元150可以控制与敏感信息相对应的信息的披露模式。

披露控制单元150控制向用户2以外的第三方3披露与敏感信息相对应的信息的模式。具体地，披露控制单元150不必将与敏感信息相对应的信息披露给用户2以外的第三方3。作为替代，披露控制单元150可以仅向用户2以外的第三方3披露信息的概要，或者可以仅披露一部分信息。

此外，披露控制单元150可以根据为与敏感信息相对应的信息设置的敏感度水平，分阶段控制向用户2以外的第三方3披露信息的模式。具体地，披露控制单元150可以根据为与敏感信息相对应的信息设置的敏感度水平来控制是否向第三方3披露信息。例如，披露控制单元150可以以如下方式分阶段控制信息的披露范围，以使得与敏感信息相对应的信息的敏感度水平越高，则要向其披露信息的第三方3的范围越窄。

此外，披露控制单元150可以基于用户2和第三方3之间的关系分阶段控制向用户2以外的第三方3披露信息的模式。具体地，披露控制单元150可以基于用户2和第三方3之间是否认识、亲密度或血缘关系中的至少一项来控制是否向第三方3披露与敏感信息相对应的信息。

例如，披露控制单元150可以仅向与用户2认识的第三方3披露具有等于或低于阈值的敏感度水平的信息。此外，披露控制单元150可以仅向具有稍高亲密度或稍高血缘关系的第三方3披露具有等于或高于阈值的敏感度水平的信息。

此外，披露控制单元150可以基于用户2和第三方3之间的社区差异来控制向第三方3披露信息的模式，可以基于用户2和第三方3所属社区中诸如新婚夫妇、家庭、同事或朋友之类的关系的密切程度控制将信息披露给第三方3的模式，或者可以基于用户2和第三方3所属社区中的上下关系控制向第三方3披露信息的模式。

这里，用户2和第三方3之间认识可能仅意味着用户2和第三方3在现实世界中实际见过面。作为替代，用户2和第三方3之间认识不仅可以意味着用户2和第三方3在现实世界中实际上见过面，还可以意味着在互联网或SNS上有联系。

用户2和第三方3之间的关系可以基于例如用户2和第三方3的属性信息来确定。此外，用户2和第三方3之间的关系可以基于例如通过用户2的输入进行的设置来确定。作为替代，可以通过参考外部服务5或SNS中的信息来确定用户2和第三方3之间的关系。此外，用户2和第三方3之间的关系可以基于用户2的话语或用户2和第三方3之间的对话的内容来确定。披露控制单元150可以通过使用各种方法来确定用户2和第三方3之间的关系。

结果，披露控制单元150可以如下例示那样控制与敏感信息相对应的信息的披露模式。

例如，披露控制单元150可以仅在用户2许可的情况下向第三方3披露用户2的个人信息，诸如性别、年龄、种族、国籍、家乡和居住地。因此，披露控制单元150可以以如下方式来控制信息的披露模式：仅在用户2许可的服务或网页中自动输入用户2的个人信息。

此外，披露控制单元150可以以如下方式控制信息的披露模式：在未经用户2许可的情况下，不向与用户2不认识的第三方3(包括任何其他用户和外部服务)披露用户2的个人信息，诸如性别、年龄、种族、国籍、家乡和居住地。通过这样做，披露控制单元150可以以如下方式控制信息的披露模式：用户2的个人信息仅被披露给在SNS上是用户2的朋友的用户，且用户2的个人信息不被披露给其他用户。

此外，披露控制单元150可以以如下方式控制信息的披露模式：在信息可以被第三方3浏览的状态下，不向用户2披露关于为用户2生成的推荐或提议的信息。通过这样做，披露控制单元150可以以如下方式控制信息的披露模式：在用户2以外的第三方3可以披露以下信息的环境(公共场所、办公环境等)中，不披露基于与敏感信息相对应的信息提供的信息，例如孕妇婴儿用品的推荐、与伙伴一起旅行的计划建议、疾病的帮助建议等。此外，在第三方3存在的地方(例如，共享房屋的共享空间等)，披露控制单元150可以以如下方式控制信息的披露模式：不向用户2呈现基于与用户2的敏感信息相对应的信息确定的信息或提示与用户2的敏感信息相对应的信息的信息。通过这样做，在用户2向主体A披露与敏感信息相对应的信息或主体A基于用户2的动作估计与敏感信息相对应的信息的情况下，披露控制单元150可以以不从主体A向第三方3披露信息的方式执行控制。因此，用户2可以放心地使用主体A，而不用担心信息会被披露给第三方3以及用户2将处于劣势。

此外，在支持用户2和第三方3之间的通信的情况下，披露控制单元150可以适当地控制要向用户2或第三方3披露的信息的形式。结果，披露控制单元150可以考虑关于用户2的好坏情绪的信息来执行用户2和第三方3之间的匹配，并且以不向第三方3披露关于用户2的好坏情绪的信息的方式控制信息的披露模式。

在包括具有以上配置的信息处理设备10的信息处理系统1中，已经积累了关于用户2的信息的主体A可以适当地控制与用户2的敏感信息相对应的信息向第三方3的披露。因此，信息处理系统1可以更适当地处理基于用户2的动作积累的信息。

<3.信息处理系统的操作>

接下来，将参考图6描述根据本实施例的信息处理系统1的操作。图6是示出根据本实施例的信息处理系统1的操作示例的流程图。

下面描述的信息处理系统1的操作示例是基于为信息设置的敏感度水平以及用户2和第三方3之间的关系来控制是否披露关于用户2的信息中与敏感信息相对应的信息的操作示例。

如图6中所示，首先，配置主体A的信息处理系统1基于用户2的动作积累关于用户2的信息(S101)。例如，信息处理系统1可以基于主体A和用户2之间的对话等在用户信息积累单元110中积累关于用户2的信息。

然后，信息处理系统1从积累的信息中分类出与敏感信息相对应的信息，并将分类出的信息指定为与敏感信息相对应(S103)。例如，信息处理系统1的指定单元130可以将用户信息积累单元110中积累的信息中与敏感信息项目数据库140中设置的项目相对应的信息指定为与敏感信息相对应。

接下来，信息处理系统1设置与敏感信息相对应的信息的敏感度水平(S105)。例如，信息处理系统1的指定单元130可以基于在敏感信息项目数据库140中设置的信息的项目来设置被指定为与敏感信息相对应的信息的敏感度水平。

然后，信息处理系统1确定是否是如下情况：指定为与敏感信息相对应的信息将被披露给第三方3(S107)。例如，信息处理系统1的披露控制单元150可以基于主体A和第三方3之间会话内容确定是否为如下情况：指定为与敏感信息相对应的用户2的信息要被披露给第三方3。

在确定不是要将与用户2的敏感信息相对应的信息披露给第三方3的情形的情况下(S107/否)，信息处理系统1不将与敏感信息相对应的信息披露给第三方3。另一方面，在确定是要将与用户2的敏感信息相对应的信息披露给第三方3的情形的情况下(S107/是)，信息处理系统1获取用户2和第三方3之间的关系(S109)。例如，信息处理系统1可以通过语音识别或图像识别来指定用户2和第三方3，然后基于在用户信息积累单元110中积累的信息指定用户2和第三方3之间的关系。作为替代，信息处理系统1可以通过基于登记在外部服务5中的用户信息指定用户2和第三方3来指定用户2和第三方3之间的关系。

此后，信息处理系统1基于与敏感信息相对应的信息的敏感度水平以及用户2与第三方3之间的关系，确定与敏感信息相对应的信息是否可被披露给第三方3(S111)。例如，在要披露的信息的敏感度水平超过基于用户2和第三方3之间的关系可披露的信息的敏感度水平的阈值的情况下，信息处理系统1的披露控制单元150可以确定信息可被披露给第三方3。

在确定与敏感信息相对应的信息可被披露给第三方3的情况下(S111/是)，信息处理系统1向第三方3披露与敏感信息相对应的信息(S113)。另一方面，在确定出与敏感信息相对应的信息不可被披露给第三方3的情况下(S111/否)，信息处理系统1不向第三方3披露与敏感信息相对应的信息。

通过以上操作，信息处理系统1可以基于为信息设置的敏感度水平以及用户2和第三方3之间的关系，控制是否披露关于用户2的信息中与敏感信息相对应的信息。

<4.信息处理系统的修改示例>

(4.1.第一修改示例)

接下来，将参考图7描述根据本实施例的信息处理系统1的第一修改示例。图7是示出从根据第一修改示例的信息处理系统1中包括的信息处理设备10的功能中提取的一部分的框图。

如图7中所示，在第一修改示例中，指定单元130A基于用户2的动作的形式将关于用户2的信息指定为与敏感信息相对应。也就是说，指定单元130A不仅可以将与提前设置在敏感信息项目数据库140中的项目相对应的信息还可以将根据用户2的动作或话语被估计为具有高机密水平的信息单独地指定为与敏感信息相对应。注意，指定单元130A以外的配置如参考图4所述，在此不再赘述。

具体地，指定单元130A可以基于对用户2执行的动作的动作识别或对用户2说出的话语内容的含义的理解，来估计基于用户2的动作或话语获取的信息是否对应于敏感信息。

指定单元130A可以基于在信息披露时用户2的形式或生物信息将通过信息披露获取的信息指定为与敏感信息相对应。在这种情况下，指定单元130A可以基于用户2的形式、生物信息等来估计用户2是否对信息披露敏感，并将用户2披露的信息指定为与敏感信息相对应。例如，在基于用户2的语调或生物信息估计用户2紧张的情况下，或者在根据用户2的音量估计用户2希望将用户2披露的信息保持为秘密的情况下，指定单元130A可以将所披露的信息指定为与敏感信息相对应。

指定单元130A可以基于对用户2的话语内容的含义的理解，将用户2的话语内容中包括的信息指定为与敏感信息相对应。在这种情况下，指定单元130A理解用户2的话语内容的含义，并估计用户2是否想将用户2披露的信息保持为秘密，从而可以将用户2的话语中披露的信息指定为与敏感信息相对应。例如，在用户2在包括指示信息的机密性或敏感度的特定词的话语中披露信息的情况下，诸如“我希望保密”或“我希望你不要告诉任何人”，指定单元130A可以将披露的信息指定为与敏感信息相对应。

另外，指定单元130A可以基于用户2的信息披露模式，将通过信息披露获取的信息指定为与敏感信息相对应。具体地，指定单元130A可以基于用户2向其披露信息的第三方3的偏见，将通过信息披露获取的信息指定为与敏感信息相对应。在这种情况下，由于用户2不打算向所有第三方3披露信息，所以指定单元130A可以估计信息对应于敏感信息并将信息指定为与敏感信息相对应。例如，在用户2仅向女性披露某些信息的情况下，指定单元130A可以将该信息指定为与敏感信息相对应。

此外，指定单元130A可以通过使用特征量空间来确定关于用户2的信息是否是与敏感信息相对应的信息。具体地，指定单元130A可以通过将表示信息披露时用户2的动作的向量输入到特征量空间来确定披露的信息是否对应于敏感信息。

特征量空间是构建使用机器学习算法的分类器时使用的技术。在特征量空间中，绘制表示在信息披露时用户2的动作的向量，并通过机器学习绘制用于确定所披露的信息是否对应于敏感信息的边界线。因此，指定单元130A可以基于其中绘制有表示信息披露时用户2的动作的向量的特征量空间的区域，来估计用户2披露的信息是否对应于敏感信息。结果，指定单元130A可以通过机器学习来估计用户2披露的信息是否对应于敏感信息。

注意，在信息处理设备10构建大量用户模型的情况下，指定单元130A可以确定多个用户模型中估计为与敏感信息相对应的信息通常是与敏感信息相对应的信息。在这种情况下，指定单元130A在敏感信息项目数据库140中另外设置信息的项目，使得即使另一个用户2也可以自动地将该信息确定为与敏感信息相对应的信息。

(4.2.第二修改示例)

接下来，将参考图8描述根据本实施例的信息处理系统1的第二修改示例。图8是示出从根据第二修改示例的信息处理系统1中包括的信息处理设备10的功能中提取的一部分的框图。

如图8中所示，在第二修改示例中，进一步包括水平控制单元161和阈值控制单元163。水平控制单元161控制针对被指定为与敏感信息相对应的每条信息设置的敏感度水平的值，且阈值控制单元163基于用户2和第三方3之间的关系来控制披露的敏感度水平的阈值。注意，水平控制单元161和阈值控制单元163以外的配置如参考图4所述，在此不再赘述。

水平控制单元161基于用户2的话语或动作或者用户2的特征来控制在用户信息积累单元110中积累的与敏感信息相对应的信息的敏感度水平的值。

具体地，水平控制单元161可以基于用户2的个性特征来控制与敏感信息相对应的信息的敏感度水平的值。例如，水平控制单元161可以基于诸如BigFive或MBTI之类的个性特征，控制与敏感信息相对应的信息的敏感度水平的值。例如，在用户2的外向性高的情况下，预期用户2倾向于更积极地与他人建立关系。在这种情况下，水平控制单元161可以以容易披露信息的方式控制与敏感信息相对应的信息的敏感度水平的值。另一方面，在用户2具有高度神经质的情况下，预期用户2在披露敏感信息方面倾向于谨慎。在这种情况下，水平控制单元161可以以几乎不披露信息的方式控制与敏感信息相对应的信息的敏感度水平的值。用户2的个性特征可以从例如用户2和主体A之间的对话、用户2在互联网或SNS上的动作历史等来估计。

此外，水平控制单元161可以基于用户2的话语或动作来控制与敏感信息相对应的信息的敏感度水平的值。例如，在用户2自己向大量第三方3披露与敏感信息相对应的信息的情况下，水平控制单元161可以以容易披露该信息的方式控制为该信息设置的敏感度水平的值。此外，水平控制单元161可以去除与敏感信息相对应的信息的指定。此外，在用户2尚未向一些第三方3披露与敏感信息相对应的信息的情况下，水平控制单元161可以以几乎不披露信息的方式控制为该信息设置的敏感度水平的值。此外，在用户2以提示与敏感信息相对应的信息的机密性的内容发出话语的情况下，水平控制单元161可以以几乎不披露信息的方式控制为该信息设置的敏感度水平的值。

此外，水平控制单元161可以改变为敏感信息项目数据库140中设置的信息的项目中与敏感信息相对应的信息的项目设置的敏感度水平。也就是说，水平控制单元161可以控制敏感信息项目数据库140中设置的每条信息的项目的敏感度水平的初始值。通过这样做，水平控制单元161可以将为与敏感信息相对应的信息的项目设置的敏感度水平的值控制为针对用户2更优化的值。

阈值控制单元163基于用户2和第三方3之间的关系，控制可以向第三方3披露与敏感信息相对应的信息的敏感度水平的阈值。

具体地，阈值控制单元163可以基于从用户2与第三方3之间的对话确定的用户2与第三方3之间的亲密度，来控制可以被披露给第三方3的与敏感信息相对应的信息的敏感度水平的阈值。此外，在从用户2和第三方3之间的对话揭示了处于未知状态的用户2和第三方3之间的关系的情况下，阈值控制单元163可以基于所揭示的用户2和第三方3之间的关系，控制可以被披露给第三方3的与敏感信息相对应的信息的敏感度水平的阈值。

此外，阈值控制单元163可以基于用户2和第三方3所属社区中信息披露的活跃程度，控制可以向第三方3披露与敏感信息相对应的信息的敏感度水平的阈值。例如，在用户2和第三方3所属的社区是积极披露信息的社区的情况下，可以以容易披露信息的方式控制与敏感信息相对应的信息可以被披露给第三方3的敏感度水平的阈值。

注意，阈值控制单元163还可以仅针对用户2指定的特定第三方3，控制与敏感信息相对应的信息可以被披露给第三方3的敏感度水平的阈值。例如，阈值控制单元163可以以容易披露信息的方式控制与敏感信息相对应的信息可以被披露给用户2指定的特定第三方3(例如，情人等)的敏感度水平的阈值。此外，阈值控制单元163可以以几乎不披露信息的方式控制与敏感信息相对应的信息可以被披露给用户2指定的特定第三方3(例如，在SNS等上被用户2屏蔽的第三方等)的敏感度水平的阈值。

<5.硬件配置>

接下来，将参考图9描述根据本实施例的信息处理系统1中包括的信息处理设备10的硬件配置的示例。图9是示出根据本实施例的信息处理系统1中包括的信息处理设备10中的硬件配置的示例的框图。

如图9中所示，信息处理设备10包括中央处理单元(CPU)901、只读存储器(ROM)902、随机存取存储器(RAM)903、主机总线905、桥907、外部总线906、接口908、输入装置911、输出装置912、存储装置913、驱动器914、连接端口915和通信装置916。代替CPU901或与CPU901一起，信息处理设备10可以包括处理电路，诸如电路、数字信号处理器(DSP)或专用集成电路(ASIC)。

CPU 901用作运算处理装置或控制装置，并根据各种程序控制信息处理设备10中的整体运算。此外，CPU 901可以是微处理器。ROM902存储CPU 901使用的程序、运算参数等。RAM 903临时存储在CPU 901的执行中使用的程序、在执行中适当改变的参数等。例如，CPU901可以执行状态估计单元120、指定单元130和130A、披露控制单元150、水平控制单元161和阈值控制单元163的功能。

CPU 901、ROM 902和RAM 903通过包括CPU总线等的主机总线905相互连接。主机总线905经由桥907连接到诸如外围组件互连/接口(PCI)总线之类的外部总线906。注意，主机总线905、桥907和外部总线906不一定必须分开，并且这些功能可以由一个总线来实现。

输入装置911是例如用户向其输入信息的装置，诸如鼠标、键盘、触摸面板、按钮、麦克风、开关或控制杆。此外，输入装置911可以包括例如基于用户通过使用以上输入手段输入的信息来生成输入信号的输入控制电路。

输出装置912是能够在视觉或听觉上向用户通知信息的装置。输出装置912可以例如是诸如阴极射线管(CRT)显示装置、液晶显示装置、等离子体显示装置、电致发光(EL)显示装置、激光投影仪、发光二极管(LED)投影仪或灯之类的显示装置，或者可以是诸如扬声器或耳机之类的声音输出装置。

输出装置912可以输出例如通过信息处理设备10执行的各种类型的处理获得的结果。具体地，输出装置912可以以诸如文本、图像、表或图形之类的各种格式在视觉上显示通过信息处理设备10执行的各种类型的处理获得的结果。作为替代，输出装置912可以将诸如语音数据或声学数据之类的音频信号转换为模拟信号并且在听觉上输出该模拟信号。

存储装置913是被配置为信息处理设备10的存储单元的示例的数据存储装置。存储装置913可以例如通过诸如硬盘驱动器(HDD)之类的磁存储装置、半导体存储装置、光存储装置或磁光存储装置来实现。存储装置913的示例可以包括存储介质、将数据记录在存储介质中的记录装置、从存储介质读取数据的读取装置、删除记录在存储介质中的数据的删除装置等。存储装置913存储由CPU 901执行的程序、各种数据、从外部获取的各种数据等。存储装置913可以执行例如用户信息积累单元110和敏感信息项目数据库140的功能。

驱动器914是用于存储介质的读写器，并且内置于或从外部附接到信息处理设备10。驱动器914读取记录在诸如安装的磁盘、光盘、磁光盘或半导体存储器之类的可移除存储介质中的信息，并将信息输出到RAM 903。此外，驱动器914也可以将信息写入到可移除存储介质。

连接端口915是连接到外部装置的接口。连接端口915是能够向外部装置传输数据的连接端口，且可以是例如通用串行总线(USB)。

通信装置916是例如通过使用用于连接到网络30的通信装置等配置的接口。通信装置916可以是例如用于有线或无线局域网(LAN)、长期演进(LTE)、蓝牙(注册商标)、无线USB(WUSB)的通信卡等。此外，通信装置916可以是用于光通信的路由器、用于非对称数字用户线(ADSL)的路由器、用于各种类型的通信的调制解调器等。通信装置916可以根据诸如TCP/IP之类的预定协议向例如因特网或另一通信装置发送信号以及从其接收信号等。

注意，网络30是有线或无线信息传输路径。例如，网络30可以包括诸如因特网的公共线路网络、电话线路网络或卫星通信网络、包括以太网(注册商标)的各种局域网(LAN)、广域网(WAN)等。此外，网络920可以包括诸如因特网协议-虚拟专用网络(IP-VPN)之类的专线网络。

注意，还可以创建计算机程序，该计算机程序用于使信息处理设备10中内置的诸如CPU、ROM和RAM之类的硬件实现与包括在根据上述本实施例的信息处理系统1中的信息处理设备10的各个配置等同的功能。此外，还可以提供存储计算机程序的存储介质。

<6.补充说明>

如上所述，已经参考附图详细描述了本公开的优选实施例，但是本公开的技术范围不限于这些示例。对于本公开所属领域的技术人员来说清楚的是，在权利要求中描述的技术思想的范围内可以想到各种修改或变更，并且自然可以理解这些修改或变更落入本公开的技术范围内。

在根据本实施例的信息处理系统1中配置的主体A可以以各种模式使用。

例如，在同一用户终端20被多个用户2共享的情况下，或者在同一软件主体被多个用户2共享的情况下，信息处理系统1可以防止敏感信息在用户2之间被披露。此外，在主体A由属于诸如家庭、朋友组、地区或学校的社区、具有同样的爱好的社区或者工作场所的社区的多个用户2共享的情况下，信息处理系统1可以防止敏感信息在用户2之间被披露。

此外，信息处理系统1中配置的主体A可以适当地用于例如工作场所的业务支持、远程用户的监视或监督、日程管理、动作历史的共享、家庭或工作场所的日常必需品购买记录的共享、以及对可以处理与诸如消息或聊天或动作报告之类的敏感信息相对应的信息的通信的支持。

在这种情况下，例如，信息处理系统1中配置的主体A可以防止在共享汽车路线导航等时在不同部门之间披露诸如目的地之类的信息。此外，在信息处理系统1中配置的主体A可以防止在不同用户2之间披露乘坐出租车等的历史。此外，在信息处理系统1中配置的主体A可以在汽车导航系统中针对每个同行乘客分离管理要显示的目的地历史或要再现的内容(例如，视频和音乐)，从而在同行乘客不同的情况下不至于混淆。

注意，在以上实施例中，作为示例描述了通过数值表示敏感度水平的情况，但是本技术不限于这样的示例。例如，敏感度水平可以用诸如“家人”、“朋友”和“认识”之类的信息披露范围来表示，并且也可以用诸如“A”、“B”或“C”之类的数值以外的字符来表示。敏感度水平可以用任何表达方式来表达，只要可以分阶段设置与敏感信息相对应的信息的披露范围即可。

此外，本说明书中描述的效果仅是说明性或示例性的，而不是限制性的。也就是说，除了上述效果或代替上述效果，根据本公开的技术可以呈现根据本说明书的描述对于本领域技术人员来说清楚的其他效果。

注意，以下配置也落入本公开的技术范围内。

(1)一种信息处理系统，包括：

用户信息积累单元，基于用户的动作积累关于用户的信息；

指定单元，将积累的信息中与敏感信息相对应的信息指定为与所述敏感信息相对应；以及

披露控制单元，在与所述敏感信息相对应的信息被披露给用户以外的第三方的情况下，所述披露控制单元控制与所述敏感信息相对应的信息的披露模式。

(2)根据(1)所述的信息处理系统，其中针对与所述敏感信息相对应的信息设置指示该信息的敏感度的敏感度水平，以及

所述披露控制单元基于所述敏感度水平控制与所述敏感信息相对应的信息的披露模式。

(3)根据(2)所述的信息处理系统，其中所述披露控制单元基于所述敏感度水平控制是否将与所述敏感信息相对应的信息披露给第三方。

(4)根据(1)至(3)中的任一项所述的信息处理系统，其中所述披露控制单元基于用户和第三方之间的关系控制与所述敏感信息相对应的信息的披露模式。

(5)根据(4)所述的信息处理系统，其中所述披露控制单元基于用户和第三方之间是否认识、亲密度或血缘关系中的至少一个控制与所述敏感信息相对应的信息的披露模式。

(6)根据(1)至(5)中的任一项所述的信息处理系统，其中在与所述敏感信息相对应的信息被披露给用户的情况下，所述披露控制单元基于第三方浏览的可能性控制与所述敏感信息相对应的信息的披露模式。

(7)根据(1)至(6)中的任一项所述的信息处理系统，其中所述指定单元将积累的信息中列在预定数据库中的项目的信息指定为与所述敏感信息相对应。

(8)根据(7)所述的信息处理系统，其中在所述预定数据库中针对每个所列项目分别设置指示该信息的敏感度的敏感度水平。

(9)根据(7)或(8)所述的信息处理系统，其中基于用户的特征控制所述预定数据库中所列的项目。

(10)根据(1)至(9)中的任一项所述的信息处理系统，其中在用户的动作的模式是预定模式的情况下，所述指定单元将基于所述动作积累的信息指定为与所述敏感信息相对应。

(11)根据(1)至(10)中的任一项所述的信息处理系统，其中所述指定单元将所积累的信息中基于用户的动作被估计为与所述敏感信息相对应的信息指定为与所述敏感信息相对应。

(12)根据(2)所述的信息处理系统，还包括水平控制单元，所述水平控制单元进一步控制针对与所述敏感信息相对应的信息设置的敏感度水平的值。

(13)根据(12)所述的信息处理系统，其中所述水平控制单元基于用户的动作控制针对与所述敏感信息相对应的信息设置的敏感度水平的值。

(14)根据(12)或(13)所述的信息处理系统，其中所述水平控制单元基于用户的特征控制针对与所述敏感信息相对应的信息设置的敏感度水平的值。

(15)根据(2)所述的信息处理系统，还包括阈值控制单元，所述阈值控制单元控制向用户指定的第三方披露的敏感度水平的阈值。

(16)根据(1)至(15)中的任一项所述的信息处理系统，其中在所述用户信息积累单元中积累的关于用户的信息包括基于用户的动作估计的信息。

(17)根据(1)至(16)中的任一项所述的信息处理系统，其中所述用户信息积累单元针对每个用户积累信息以针对每个用户构建用户模型。

(18)根据(1)至(17)中的任一项所述的信息处理系统，其中所述第三方包括向用户提供服务的外部系统。

(19)一种由运算处理装置执行的信息处理方法，所述信息处理方法包括：

基于用户的动作积累关于用户的信息；

将所积累的信息中与敏感信息相对应的信息指定为与所述敏感信息相对应；以及

在向用户以外的第三方披露与所述敏感信息相对应的信息的情况下，控制与所述敏感信息相对应的信息的披露模式。

(20)一种程序，使计算机用作：

用户信息积累单元，基于用户的动作积累关于用户的信息；

指定单元，将所积累的信息中与敏感信息相对应的信息指定为与所述敏感信息相对应；以及

披露控制单元，在向用户以外的第三方披露与所述敏感信息相对应的信息的情况下，控制与所述敏感信息相对应的信息的披露模式。

附图标记列表

1信息处理系统

2用户

3第三方

5外部服务

10信息处理设备

20用户终端

30网络

110用户信息积累单元

120状态估计单元

130、130A指定单元

140敏感信息项目数据库

150披露控制单元

161水平控制单元

163阈值控制单元