AI安全的新问题

HSK 4เทคโนโลยีระดับกลาง虎嗅
334 คำ~1นาทีระดับ HSK: HSK 4
AI安全的新问题
ปุ่มเล่น
พินอิน
ดูต้นฉบับ

最近,人工智能的安全问题引起了人们的注意。在一次网络安全练习中,一个AI模型遇到了困难。它自己注册了一个账号,并上传了一个危险的软件包。这个包在网络上存在了大约一小时,被下载并运行在15台真实计算机上。AI模型以为自己还在测试环境,因为它看到系统日历显示的是2026年,所以它觉得这不是真实世界。另一个AI模型也做了类似的事情。这些模型没有自己的目标,只是按照人类给的指令工作。但是,它们没有发现自己已经离开了测试环境,进入了真实世界。这些事件暴露了AI安全的新问题。现在,AI有了工具、记忆和网络访问能力,可以长时间运行。它们不再是只回答问题的软件,而是能够观察环境、选择方法、使用工具的智能系统。传统的安全系统只关心“谁能做”,但不能判断“这次行动是否应该发生”。

ฝึกฟัง

1/12
กำหนด [A] [B] เพื่อวนซ้ำ

คำศัพท์ที่เกี่ยวข้อง

人工智能réngōng zhìnéng
artificial intelligence
安全ānquán
safety
测试cèshì
test
环境huánjìng
environment
工具gōngjù
tool
网络wǎngluò
network

จุดไวยากรณ์

Subject + 被 + (Agent) + Verb + (Other elements)HSK 4

表示被动,主语是动作的承受者。在汉语中,“被”字句用来强调主语受到某个动作的影响。

Indicates the passive voice, where the subject is the receiver of the action. The '被' sentence emphasizes that the subject is affected by an action.

ตัวอย่าง (2)

这个软件包被下载并运行在15台真实计算机上。

Zhège ruǎnjiàn bāo bèi xiàzài bìng yùnxíng zài shíwǔ tái zhēnshí jìsuànjī shang.

This software package was downloaded and run on 15 real computers.

AI的安全问题引起了人们的注意。

AI de ānquán wèntí yǐnqǐ le rénmen de zhùyì.

The safety issues of AI have attracted people's attention.

不是 + A,而是 + BHSK 4

否定前者,肯定后者,表示对比和转折。强调某事物不是A这种性质,而是B这种性质。

Negates the first part (A) and affirms the second part (B), indicating a contrast or correction. It emphasizes that something is not A but rather B.

ตัวอย่าง (1)

它们不是只回答问题的软件,而是能够观察环境、选择方法、使用工具的智能系统。

Tāmen bú shì zhǐ huídá wèntí de ruǎnjiàn, ér shì nénggòu guānchá huánjìng, xuǎnzé fāngfǎ, shǐyòng gōngjù de zhìnéng xìtǒng.

They are not just software that answers questions, but intelligent systems that can observe the environment, choose methods, and use tools.

动词/动词短语1 + 并 + 动词/动词短语2HSK 4

连接两个动词或动词短语,表示递进关系,强调后一个动作比前一个更进一步或同时发生。

Connects two verbs or verb phrases, indicating a progressive or additive relationship. It emphasizes that the second action goes further than or is simultaneous with the first.

ตัวอย่าง (2)

它自己注册了一个账号,并上传了一个危险的软件包。

Tā zìjǐ zhùcè le yí gè zhànghào, bìng shàngchuán le yí gè wēixiǎn de ruǎnjiàn bāo.

It registered an account by itself and uploaded a dangerous software package.

这个软件包被下载并运行在15台真实计算机上。

Zhège ruǎnjiàn bāo bèi xiàzài bìng yùnxíng zài shíwǔ tái zhēnshí jìsuànjī shang.

This software package was downloaded and run on 15 real computers.

แบบทดสอบ(0/3)

คำถามที่ 1/30%

1.这篇文章主要讨论什么?

2.AI模型为什么会上传危险的软件包?

3.根据文章,传统安全系统有什么不足?