跳动城乡网越来越多的公共服务——例如经济适用房、公立学校匹配和儿童福利——正在依赖算法来做出决策和分配资源。到目前为止，设计这些系统的大部分工作都集中在工人的使用体验或社区对它们的看法上。
但是这些程序对人们的实际影响如何，特别是当系统做出的决策导致拒绝服务时?您能否设计算法来帮助人们理解并质疑对他们产生重大影响的决策?
NaveenaKarusala，哈佛大学约翰·A·保尔森工程与应用科学学院(SEAS)博士后研究员;KrzysztofGajos，SEAS计算机科学GordonMcKay教授;一组研究人员正在重新思考如何为公共服务设计算法。
“我们不能只以使用该工具做出决定的工人或机构为中心，而是以受该决定影响的人为中心，以便努力建立更多关爱的机构和流程?”卡鲁萨拉问道。
在本周计算机器协会关于计算系统中的人为因素(CHI)会议上发表的一篇论文中，Karusala和她的同事提出了改进算法决策工具设计的建议，使受这些决策影响的人们更容易浏览流程中的所有步骤，尤其是当这些步骤被拒绝时。
研究人员旨在从目前尚未使用但将来可能部署算法的领域中学习。他们专门研究了印度南部农村地区的土地所有权公共服务和美国东北部城市的经济适用房以及申请人被拒绝服务后的争议程序。
美国和印度以及世界各地的政府都承认对拒绝提供公共服务提出异议的权利，并且当算法拒绝提供公共服务时，这种情况会越来越明显。但争论过程可能很复杂、耗时且难以驾驭，特别是对于边缘化社区的人们来说。
社会工作者、律师和非政府组织等中介机构在帮助人们完成这些流程并了解他们的权利和选择方面发挥着重要作用。在公共卫生领域，这个概念被称为“陪伴”，即社区援助人员协助资源贫乏社区的人们共同应对复杂的医疗保健系统。
“我们研究的要点之一是中介的明显重要性以及将伴奏的想法嵌入到算法设计中，”卡鲁萨拉说。“这些中介机构不仅应该参与设计过程，还应该了解决策过程的运作方式，因为他们是社区和公共服务之间的桥梁。”
研究人员建议，算法决策系统的设计应能够主动将申请人与这些中介机构联系起来。
卡鲁萨拉说，如今，许多人工智能研究人员都专注于提高算法解释其决定的能力，但这对于那些被拒绝提供服务的人来说还不够有用。
卡鲁萨拉说：“我们的研究结果表明，不应只关注解释，而应该关注算法设计的其他方面，以防止拒绝。”
例如，如果背景调查发现的信息使某人处于批准和不批准住房之间的界限，算法应该能够要求提供更多信息以做出决定或要求人工审核员介入。
卡鲁萨拉说：“这些是边缘化社区经常承受的负担的一些具体方式，不仅可以与中介机构分担，还可以与公共服务管理员和算法工具分担。”
加霍斯说：“这项研究特别重要，因为它挑战了计算界根深蒂固的假设，即为人们提供申诉补救机制的最有效方法是让算法对他们的决策提供解释。”“相反，这项研究表明，算法可以在整个过程中使用：从识别可能不会自己申请并可能需要鼓励这样做的个人，到帮助申请人准备和背景化信息以使申请具有相关性和信息性，到导航竞争策略。”
