如果 ASI 只剩 18 个月，现在还该结婚吗？

导读

AI 进展很快，人该怎样做涉及职业和公司的长期决定？Sarah Guo 与 Elad Gil 的讨论提醒读者，把已经观察到的进展与精确的未来预测分开，再比较具体选择的代价。有研究者相信超智能只剩 18 个月，因而压缩睡眠、甚至犹豫是否结婚；Sarah 指出，模型协助写代码与独立选择研究问题、验证结果之间还有距离，算力和电力也会限制进度。讨论公司是否出售时，Elad 建议董事会每半年或一年例行复盘，计算未来收入、融资稀释和创始人还要投入的时间；Sarah 则追问模型变强时公司能否留住价值。两人也提醒，大市场不等于三五年内就能产生万亿美元公司，收入形成速度、资本需求和利润都需要单独估算，不能只凭热门趋势下注。