Introducing Claude 2! Our latest model has improved performance in coding, math and reasoning. It can produce longer responses, and is available in a new public-facing beta website at https://t.co/uLbS2JNczH in the US and UK. pic.twitter.com/jSkvbXnqLd
Just bought a new PC laptop and it won’t let me use it unless I create a Microsoft account, which also means giving their AI access to my computer! This is messed up.
There used to be an option to skip signing into or creating a Microsoft account.
OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.
During a live audio event on the social media platform, Musk’s team of all-male math, AI and engineering experts spoke about how they wanted to create an AI that was smarter than humans with the goal of benefiting society. Musk said the fundamental goal of the company is to understand “what the hell is really going on.” 「ソーシャルメディア・プラットフォームでのライブ音声イベントの中で、イーロンマスクの数学、AI、エンジニアリングの専門家からなる男性だけのチームは、社会に利益をもたらすことを目標に、人間よりも賢いAIを作りたいと語った。イーロンマスクは、会社の基本的な目標は、”本当は何が起こっているのか “を理解することだと語った。」
“Musk said that questions about the nature of dark matter or unsolved aspects of how gravity works could be among the mysteries his company seeks to explain. He spoke at length about the “Fermi paradox” — a theoretical question that asks why humans have not discovered aliens yet and posits that technological civilizations usually destroy themselves, or are destroyed by an outside force, before traveling to other solar systems. Jimmy Ba, a University of Toronto professor and well-known AI researcher who joined Musk’s company, said the goal is to create an AI that can help with a range of problems facing humanity. “How can we build a general purpose problem-solving machine to help all of us, humanity, overcome the most challenging and ambitious problems out there, and how can we use those tools to augment ourselves and empower,” Ba said.” 「イーロンマスクは、ダークマターの性質や重力の働きに関する未解決の問題が、彼の会社が取り組む謎のひとつになり得ると述べた。彼はその例として「フェルミパラドックス」について語った。フェルミパラドックスとは、なぜ人類はまだ宇宙人を発見していないのかという理論的な問題です。仮説としては、技術文明は他の太陽系に行く前に自滅するか、外部の力によって破壊されるのかどちらかだというものがあります。 イーロンマスクの会社に加わったトロント大学教授で有名なAI研究者であるジミー・バは、人類が直面するさまざまな問題に役立つAIを作ることが目標だと語った。 「私たち人類が、そこにある最も困難で野心的な問題を克服するのを助けるために、汎用的な問題解決マシンをどのように作ることができるのか。」が重要だそうだ。」※4
1. “We want AGI to empower humanity to maximally flourish in the universe. We don’t expect the future to be an unqualified utopia, but we want to maximize the good and minimize the bad, and for AGI to be an amplifier of humanity.” 「AGIが人類を宇宙で最大限に反映させることを望んでいます。未来が無条件のユートピアになることは期待していませんが、良いことを最大化し、悪いことを最小化し、AGIが人類の増幅器になることを望んでいます。」
2. “We want the benefits of, access to, and governance of AGI to be widely and fairly shared.” 「AGIの利益、アクセス、ガバナンスを広く公平に共有したいと考えています。」
3. “We want to successfully navigate massive risks. In confronting these risks, we acknowledge that what seems right in theory often plays out more strangely than expected in practice. We believe we have to continuously learn and adapt by deploying less powerful versions of the technology in order to minimize “one shot to get it right” scenarios.” 「巨大なリスクをうまく回避することを望んでいます。これらのリスクに直面する際、理論上正しいと思われることが実際には予想外の方法で展開することを認識しています。より強力なバージョンの技術を展開し、継続的に学び、適応することで、「一発でうまくいかなければならない」シナリオを最小限に抑える必要があると考えています。」
“We have a lot of work to do before GPT5. It takes a lot of time. We are nowhere close to it’’. He added, “We’re working on the new ideas that we think we need for it, but we are nowhere close to the start. There need to be more safety audits: I wish I could tell you about the timeline of the next GPT”. 「「GPT5までには、まだ多くの作業を行う必要があります。それにはたくさんの時間がかかります。我々はまだその段階にすら近づけていません。」 彼はさらに、「我々はそれに必要だと思う新しいアイデアに取り組んでいますが、開始地点にさえ近づいていません。もっと多くの安全性監査が必要です：次のGPTのタイムラインについてお話できたらと思うのですが…」と付け加えました。」
