一种对ai失控的多余担忧

机器已变得那么复杂，复杂到任何肉人都无法理解了，怎么可能再有效的控制和操纵它呢？

其实，复杂到肉人无法理解的东西多了去了，但在许多情况下，这并不能阻止我们得益于，利用，控制，甚至操纵它们，

控制是个宽泛的概念，可以只是边界控制，就是不让它进入一种会引发恶果的状态，这未必需要多充分的理解，

操纵也很宽泛，就是把它导向对你有利或你所希望的方向，这也未必需要多充分的理解，

电网，通信网络，大型软件，货币系统，市场，大型社会，文化系统……，其行为都可以复杂到肉人无法理解的，但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著，

当然，不存在万无一失的十全之策，对AGI如此，对既有的复杂系统也是如此。