人大代表谈“养龙虾” 需正确认识与清晰提示[推荐]

谈及最近流行的“养龙虾”现象，全国人大代表、华中科技大学校长尤政表示，用户需要对这种人工智能工具有正确的认识，软件提供商也应对可能造成的损害有明确的提示。他认为，使用这类工具时，用户应对其结论的可信度有清晰的认识，并对工具可能带来的问题保持警惕。

尤政指出，安全是人工智能领域必须面对的问题。人工智能本质上是一个处理信息并进行推测的工具，最终目的是服务于人。“养龙虾”实际上是一种智能体，它根据用户的指令调动资源来给出结论。在这个过程中，可能会访问一些地方或动用用户授权的权利，甚至做出一些未直接授权的行为。因此，用户在使用前需充分了解其潜在风险。

作为软件提供商，应像烟盒上的警告一样，清楚地告知用户“养龙虾”可能带来的负面影响。不能让用户在不知情的情况下使用该工具，导致潜在危害发生后推卸责任。此外，还需加强人工智能领域的立法工作，对于不可控或未知结果的技术，应在限定条件下使用，避免为了商业利益而推荐给公众试错。

关于深圳龙岗出台的“龙虾十条”，尤政认为，政府在制定相关政策时应当承担起相应的责任，确保这些规定能够在适当的范围内实施。如果是由个人自行使用，则用户需对自己的行为负责。