اریک اشمیت، مدیرعامل پیشین گوگل، و الکساندر وانگ، بنیان‌گذار Scale AI، در مقاله‌ای جدید با عنوان "استراتژی ابرهوش" هشدار داده‌اند که دولت ایالات متحده نباید یک پروژه مشابه "پروژه منهتن" برای هوش مصنوعی عمومی (AGI) راه‌اندازی کند، زیرا چنین اقدامی می‌تواند به‌سرعت از کنترل خارج شود.
آن‌ها استدلال می‌کنند که ایجاد چنین برنامه‌ای باعث خواهد شد که کشورهای رقیب برای دستیابی به قدرتمندترین قابلیت‌های هوش مصنوعی در میدان نبرد، به اقدامات متقابل یا حتی خرابکاری روی بیاورند. به‌جای این رویکرد، ایالات متحده باید بر توسعه روش‌هایی مانند حملات سایبری برای غیرفعال کردن پروژه‌های تهدیدآمیز هوش مصنوعی تمرکز کند.
اشمیت و وانگ از طرفداران بزرگ پتانسیل هوش مصنوعی برای پیشرفت جامعه در حوزه‌هایی مانند توسعه دارو و بهبود کارایی در محیط کار هستند. با این حال، دولت‌ها هوش مصنوعی را به‌عنوان نسل بعدی فناوری‌های دفاعی می‌بینند، و این دو رهبر صنعتی نگرانند که این رقابت به توسعه سلاح‌هایی با قدرت تخریب فزاینده منجر شود. آن‌ها معتقدند که همان‌طور که توافقات بین‌المللی توانسته است توسعه سلاح‌های هسته‌ای را محدود کند، کشورها نیز نباید در مسابقه‌ای برای ساخت ماشین‌های کشتار مبتنی بر هوش مصنوعی گرفتار شوند.
اما در عین حال، هر دو نفر خود در حال توسعه فناوری‌های هوش مصنوعی برای بخش دفاعی هستند. شرکت White Stork متعلق به اشمیت روی پهپادهای خودران کار می‌کند، درحالی‌که Scale AI به‌تازگی قراردادی با وزارت دفاع ایالات متحده امضا کرده است تا عوامل هوش مصنوعی برای برنامه‌ریزی نظامی و عملیات دفاعی توسعه دهد.
پس از سال‌ها دوری از فروش فناوری‌های مرتبط با جنگ، اکنون شرکت‌های سیلیکون ولی با رویکردی میهن‌پرستانه در حال صف‌بستن برای کسب قراردادهای پرسود نظامی هستند.