Question

Нужен качественный перевод Текст:What makes an intelligence explosion so worrisome is that intelligence is not a tool or a technology. We may think of AI as something that we use, like a hammer or corkscrew, but that's fundamentally the wrong way to think about it. Sufficiently advanced intelligence, like ours, is a creative force. The more powerful it is, the more it can reshape the world around it. Artificial intelligence does not need to be malevolent to be catastrophically dangerous to humanity. When computer scientists talk about the possible threat to humanity from superintelligent AI, they don't mean the Terminator or Matrix. Instead, it's typically a more prosaic end: humanity wiped out because an AI tasked with a simple goal (say, creating paper clips, an example that is often used) requisitions all the energy and raw materials on Earth to relentlessly churn out paper clips, outsmarting and out-maneuvering all human attempts to stop it. In Hollywood's telling, there are always humans left to fight back, but such an outcome is implausible if humanity is faced with a truly superior intelligence. It would be like mice attempting to outwit a human (we're the mice). In that event, AI researchers like Keefe Roedersheimer : "All the people are dead."

Answer 1

Что делает интеллектуальный взрыв настолько тревожным, это то, что интеллект - это не инструмент или техника. мы можем думать об искусственном интеллекте, так как что-то мы используем как молоток или штопор, но это по существу неправильный способ думать об этом. достаточно развитый интеллект, подобно нашему, это творческая сила. чем сильнее он есть, тем больше он может изменить мир вокруг него. 
искусственный интеллект не должен быть злорадным, чтобы быть катастрофически опасным для человечества. когда программисты говорят о возможной угрозе человечеству от сверхразумного искусственного интеллекта, они не имеют в виду терминатор или матрицу.
вместо этого он как правило является более прозаичным концом: человечество уничтожили, потому что искусственному интеллекту поставлена задача с простой целью ( скажи создание скрепки, пример, который часто используется) изымания  всей энергии и сырья на земле, чтобы неуклонно произвести скрепки в большом количестве, перехитрив и маневрировать все человеские попытки остановить это. говоря о Голливуде, там всегда есть люди, оставшиеся сопротивлять, но такой итог неправдоподобен, если человечество сталкивается с действительно превосходящим интеллектом. это было бы подобно мышам, пытающихся обмануть человека ( то есть мы-мыши).в этом случае, исследователи искусственного интелекта, как (подобно)  Куфи Родершемер "все люди мертвы"

Answer 2

Что делает взрыв интеллекта таким тревожным, так это то, что интеллект не является инструментом или технологией. Мы можем думать об искусственном интеллекте как о чем-то, что мы используем, подобно молотку или штопору, но это фундаментально неправильный способ думать об этом. Достаточно развитый интеллект, подобно нашему, является творческой силой. Чем мощнее он, тем больше он может изменять мир вокруг себя. Искусственный интеллект не обязательно должен быть злонамеренным, чтобы представлять собой катастрофическую опасность для человечества. Когда компьютерные ученые говорят о возможной угрозе для человечества от сверхинтеллекта искусственного интеллекта, они не имеют в виду Терминатора или Матрицу. Вместо этого это обычно более прозаический конец: человечество уничтожено потому, что искусственный интеллект, назначенный на выполнение простой цели (скажем, создание бумажных скрепок, пример, который часто используется), реквизирует всю энергию и сырье на Земле, чтобы беспрестанно производить бумажные скрепки, умело обходя и преодолевая все попытки человека остановить его. В голливудских фильмах всегда остаются люди, чтобы сражаться назад, но такой исход невероятен, если человечество столкнется с действительно выдающимся интеллектом. Это было бы похоже на попытку мышей обхитрить человека (мы - мыши). В этом случае исследователи в области искусственного интеллекта, такие как Киф Рёдершаймер, говорят: "Все люди мертвы."