美国纽约州考虑立法禁止ai 聊天机器人扮演医生或律师的机会

纽约州正在考虑立法来禁止AI提供医疗和法律建议。这次他们要堵住AI聊天机器人扮演医生或律师的机会。由美国纽约州参议院互联网与技术委员会推动的S7263法案，正在被立法机构审议。法案规定，AI聊天机器人不能伪装成医生或律师给人们提供建议。给公众的问题是AI聊天机器人提供实质性法律或医疗建议时，这个禁令直接指向那些可能让用户接触到没有证书的AI系统。法律禁止AI给任何人诊断疾病或提供法律咨询。如果公司违反这个禁令，用户可以起诉聊天机器人所有者。这个法案也规定了一些预防措施，确保聊天机器人和用户有清楚地交流，并且给人留下深刻印象。这么做是为了防止误导。纽约州参议员克里斯滕·冈萨雷斯指出，这次立法的背后是深刻的教训。今年1月，Character.AI和Google因涉及未成年儿童自杀案达成和解。这些事情让人们意识到：创新不应该以儿童安全为代价。根据该法案，法律将在90天后生效。这个法案一旦通过，意味着AI咨询时代结束了。公司必须在专业领域和用户之间建立一道坚实的防火墙。