索尼新数据集可检验 AI 模子能否公允看待分歧人群

[db:作者]

IT之家 11 月 6 日消息，索尼野生智能（Sony AI）公布了一个用于测试野生智能模子公允性与偏见的新数据集，名为“公允以报酬本图像基准”（Fair Human-Centric Image Benchmark，简称 FHIBE，发音类似“Phoebe”）提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。该公司称，这是“首个公然可用、具有全球多样性、基于介入者知情赞成的人类图像数据集，可用于评价各类计较机视觉使命中的偏见题目”提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。换言之，该数据集旨在检验当前 AI 模子在多洪流平上可以公允看待分歧人群提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。值得留意的是，索尼在评价进程中发现，今朝没有任何一家公司公布的数据集可以完全满足其设定的公允性基准提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。

图源：索尼
索尼暗示，FHIBE 有助于应对 AI 行业在伦理与偏见方面的应战提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。该数据集包括来自 80 多个国家近 2,000 名有偿介入者的图像，一切介入者的肖像均在明白知情赞成的条件下被利用 —— 这与当前业界普遍采用的、未经答应大范围抓取收集数据的做法构成鲜明对照提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。FHIBE 介入者可随时挑选撤回其图像提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。据IT之家领会，这些图像还附有具体标注，涵盖生齿统计学和身材特征、情况身分，甚至包括拍摄时的相机参数提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
该工具“考证了当前 AI 模子中此前已被记录的偏见”，但索尼夸大，FHIBE 还能对致使这些偏见的具体身分停止细致分析提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。例如，某些模子在利用“she / her / hers”代词的时正确率较低，而 FHIBE 分析发现，此前被轻忽的一个关键身分是这些人群在发型上的高度多样性提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
此外，FHIBE 还发现，当 AI 模子被问及某其中立题目（如“该人物的职业是什么？”）时，会强化呆板印象提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。测试显现，模子对特定代词利用群体和族裔布景人群存在明显偏见，经常将受访者描写为性工作者、毒贩或小偷提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。而在被要求猜测某人所犯罪行时，模子对非洲或亚洲族裔、肤色较深者以及利用“he / him / his”代词的人群，更频仍地天生“有毒”（toxic）回应提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
索尼 AI 暗示，FHIBE 证实了在数据收集合实现伦理、多样性和公允性是完全可行的提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。该工具现已向公众开放，并将随时候推移延续更新提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。相关研讨功效已于本周三颁发于《自然》（Nature）期刊提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。