OO
16 de maio 2024, Sam Altman s encantadores CEO bilionário da OpenAI e eternamente otimista. Eu estava apostas serie a brasileirao frente à ♣ reunião do subcomitê judiciário dos EUA no Senado sobre supervisão AI; estávamos na cidade Washington DC (EUA), que era o ♣ auge das ideias inteligentes para a humanidade – Altmann tinha 38 anos quando foi apresentador disso tudo!
Criado apostas serie a brasileirao St Louis, ♣ Missouri Altman foi o desistente de Stanford que se tornou presidente da incubadora Y Combinator antes dos 30 anos. ♣ Alguns meses depois do julgamento a apostas serie a brasileirao empresa pode ajudar os bons ministros e líderes mundiais interessados no mundo inteiro ♣ mas nunca tinha tomado conta das pessoas interessadas na IA: durante todo verão 2024 Altmann era tratado como um Beatle ♣ parado pela DC enquanto fazia parte duma turnê mundial com as sugestões "...
Aos poucos, percebi que eu e o Senado ♣ (e finalmente os americanos) provavelmente tínhamos sido jogados.
O senador Richard Blumenthal tinha chamado nós dois (e a Christina Montgomery da ♣ IBM) para Washington, discutir o que deveria ser feito sobre IA uma tecnologia de "dupla utilização" com tremenda promessa ♣ mas também potencialidade – desde tsunamis e desinformação até permitir proliferação das novas armas biológicas. A agenda era política ou ♣ regulamentação AI - juramos dizer toda verdade sem contar nada além dela!
Altman estava representando uma das principais empresas de IA; ♣ Eu estive lá como cientista e autor, bem conhecido por meu ceticismo sobre muitas coisas relacionadas à AI. Achei que ♣ o Altmann era surpreendentemente envolvente apostas serie a brasileirao última análise : Houve momentos quando ele se desviou perguntas (mais notavelmente "O Que ♣ você está mais preocupado?" do Senado Blumenthal), O qual eu pressionei a responder com maior sinceridade - mas no geral ♣ parecia genuíno para os dois americanos – lembro-me dizendo tanto às pessoas quanto nós nos fizemos isso!
E-mail:
Na verdade, eu sempre ♣ tive algumas dúvidas sobre a OpenAI. As campanhas de imprensa da empresa foram muitas vezes exageradas e até enganosamente enganadoras ♣ como apostas serie a brasileirao demonstração extravagante do robô "resolvendo" um cubo Rubik que acabou por ter sensores especiais dentro dele; recebeu toneladas ♣ na prensa mas não foi apostas serie a brasileirao lugar nenhum!
Durante anos, o nome OpenAI – que implicava uma espécie de abertura sobre ♣ a ciência por trás do quê estava fazendo empresa - tinha se sentido como mentira. Desde na realidade tornou-se cada ♣ vez menos transparente ao longo dos tempos s dicas frequentes da companhia apostas serie a brasileirao AGI (inteligência artificial geral; AI capaz pelo ♣ contrário das habilidades cognitivas humanas) foi apenas um pouco atrás sempre me senti tão injustificável quanto hype mas pessoalmente Altman ♣ ficou muito impressionado com ele:
Da esquerda para a direita: Christina Montgomery, diretora de privacidade e confiança da IBM; Gary Marcus ♣ and Sam Altman aparecendo perante o subcomitê judiciário do Senado sobre supervisão apostas serie a brasileirao IA.
: Bloomberg/Getty
Imagens
Comecei a reconsiderar depois ♣ que alguém me enviou uma dica, sobre algo pequeno mas reveladora. No Senado Altman pintou-se tão mais altruísta do mesmo ♣ realmente era o senador John Kennedy tinha perguntado: "OK! Você faz muito dinheiro? Vocês?" O Sr." Altmann respondeu “Eu não ♣ faço... Eu recebo bastante pelo seguro de saúde... eu tenho nenhuma equidade apostas serie a brasileirao OpenAI", elaborando isso como sendo 'eu estou ♣ fazendo isto porque amo'.
Altman não estava dizendo ao
cheio de
verdade. Ele não possuía nenhum estoque na OpenAI, mas ele possui ações ♣ próprias apostas serie a brasileirao Y Combinator e o combinador de y era dono do stock da
indirectas indireta
Se essa participação indireta valesse apenas ♣ 0,1% do valor da empresa, o que parece plausível. Valeria quase USR$ 100 milhões se a OpenAI tivesse uma fatia ♣ de capital indireto no site oficial e não fosse considerada como um investimento direto na companhia por meio dos investimentos ♣ apostas serie a brasileirao ações diretas ou indirectas (ou seja: R$100m).
Linha do Tempo
De Loopt a OpenAI: A carreira de Sam Altman apostas serie a brasileirao resumo.
Abril ♣ 1985.
Março 2012
fevereiro 2014
Dezembro 2024
Março 2024
Novembro 2024
Maio 2024
Novembro 2024
Janeiro 2024
Fevereiro 2024
Essa omissão era um sinal de aviso. E quando a questão ♣ voltou, ele poderia ter corrigido isso mas não fez nada disso e as pessoas adoraram seu mito altruísta (Ele dobrou ♣ para baixo apostas serie a brasileirao uma peça com
Fortune Fortuna
, alegando que ele não precisava de equidade com OpenAI porque tinha "dinheiro suficiente".) ♣ Pouco tempo depois disso descobri o acordo da empresa aberta apostas serie a brasileirao uma companhia chip onde Altman possuía um pedaço. O ♣ abnegado começou-se por tocar vazios
A discussão sobre dinheiro não foi, apostas serie a brasileirao retrospectiva a única coisa do nosso tempo no ♣ Senado que se sentia totalmente sincera. Muito mais importante era o posicionamento da OpenAI na regulamentação de IAs e Altman ♣ disse publicamente ao senador apoiar isso; mas é muito complicado!
Por um lado, talvez uma pequena parte significativa de Altman realmente ♣ quer a regulamentação da IA. Ele gosta muito do parafrase Oppenheimer (e está bem ciente que ele compartilha aniversário com ♣ o líder no Projeto Manhattan) e reconhece isso como armas nucleares; A AI representa sérios riscos à humanidade : "Olha... ♣ Nós tentamos ser claros sobre os piores perigos...
Atrás de portas fechadas, os lobistas da Altman continuam pressionando por uma regulação ♣ mais fraca do AI ou nenhuma.
Presumivelmente Altman não quer viver apostas serie a brasileirao arrependimento e infâmia. Mas atrás de portas fechadas, seus ♣ lobistas continuam pressionando por uma regulamentação mais fraca ou nenhuma regulação alguma mesmo! Um mês após a audiência do Senado ♣ saiu que o OpenAI estava trabalhando para diluir os atos da UE AI s Ato No momento ele foi demitido ♣ pela Abrirai no novembro 2024 "não ser consistentemente sincero" com seu conselho; Eu nem fiquei tão surpreso quanto isso...”.
Na época, ♣ poucas pessoas apoiaram a decisão do conselho de despedir Altman. Um grande número dos apoiadores veio apostas serie a brasileirao seu auxílio; muitos ♣ o tratar
Sugere que
Cinco dias depois, foi reintegrado com a ajuda do maior investidor da OpenAI (a Microsoft) e uma petição ♣ de apoio aos funcionários.
Mas muita coisa mudou desde então. Nos últimos meses, as preocupações sobre a franjo de Altman passaram ♣ do herético para o elegante e moderno jornalista Edward Zitron escreveu que ele era "um falso profeta - um grifter ♣ seedy (uma grifter) usando apostas serie a brasileirao notável capacidade apostas serie a brasileirao impressionar ou manipular elite no Vale Silicon". Ellen Huet da Bloomberg News
Foundering
, ♣ chegou à conclusão de que "quando [Altman] diz alguma coisa você não pode ter certeza se ele realmente quer dizer ♣ isso". Paris Marx alertou sobre a visão auto-serviço Sam Altmann. O pioneiro da IA Geoffrey Hinton questionou recentemente os motivos ♣ do Altmanis e eu mesmo escrevi um ensaio chamado o Playbook sam altemã dissecando como conseguiu enganar tantas pessoas por ♣ tanto tempo com uma mistura entre hype (impressão) ou aparente humildade...
Muitas coisas levaram a esse colapso na fé. Para alguns, ♣ o momento de gatilho foi as interações do Altman no início deste ano com Scarlett Johansson que explicitamente lhe ♣ perguntou:
E- e
para fazer um chatbot com a voz. Altman passou usar uma dubladora diferente, mas alguém que era obviamente semelhante ♣ à apostas serie a brasileirao apostas serie a brasileirao vozes e twittou "Ela" (uma referência ao filme no qual Johansson forneceu o som da IA). Joanson ♣ estava lúcido E ScarJo foi emblemático de outro problema maior: grandes empresas como BAI insistem na ideia dos outros Estados ♣ não funcionarem se eles forem treinados nos escritores do mundo inteiro ou nas pequenas companhias descritas".
Enquanto isso, a OpenAI há ♣ muito tempo paga serviço de bordo para o valor do desenvolvimento medidas por segurança IA. Mas vários funcionários-chave relacionados à ♣ Segurança recentemente partiram alegando que as promessas não haviam sido mantidas.[Next safety insider Jan Leike disse ao site da empresa ♣ ter priorizado coisas brilhantes sobre proteção e outro funcionário recém falecido William Saunders] O cofundador Ilya Sutskiever partiu apostas serie a brasileirao busca ♣ das notas mais ruins na apostas serie a brasileirao nova aventura Safe Superinteligence [“Segurança Social].
"Ele deslumbrou." Sam Altman na Estação F apostas serie a brasileirao Paris, ♣ 26 maio 2024.
: Joel Saget/AFP /Getty
Imagens
O desrespeito que a OpenAI demonstrou pela segurança é agravado pelo fato de ♣ parecer estar apostas serie a brasileirao uma campanha para manter seus funcionários quietos. Em maio, o jornalista Kelsey Piper descobriu documentos permitindo à ♣ empresa recuperar estoque adquirido dos ex-funcionárioes e não concordariam com dizer mal da companhia - prática considerada chocante por muitos ♣ especialistas do setor Logo depois disso vários antigos empregados assinaram posteriormente carta na direitapara avisarem os denunciantes sobre apostas serie a brasileirao ♣ queda
Em maio, a ex-membro do conselho da OpenAI Helen Toner disse ao
Ted AI Show
Durante anos, Sam tornou realmente difícil para ♣ o conselho... por reter informações e deturpar as coisas que estavam acontecendo na empresa.
No final de maio, a má imprensa ♣ para OpenAI e seu CEO tinha acumulado tão firmemente que o capitalista Matt Turck postou um desenho animado apostas serie a brasileirao X: ♣ "dias desde última controvérsia facilmente evitável da Aberto AI.
YY.
Altman ainda está lá, e incrivelmente poderoso. Ele continua a executar OpenAI ♣ e apostas serie a brasileirao grande parte ele é o rosto público da IA - reconstruiu amplamente ao seu gosto os conselhos de ♣ administração do programa aberto AI (Openai). Mesmo recentemente como abril 2024 O secretário Alejandro Mayorkas viajou para visitar Altmann com ♣ quem recrutou-o pelo conselho sobre segurança na área interna dos serviços secretos das Nações Unidas:
Muito está apostas serie a brasileirao jogo. A forma ♣ como a IA se desenvolve agora terá consequências duradouras, as escolhas de Altman podem facilmente afetar toda humanidade – não ♣ apenas usuários individuais - por formas duráveis já que o OpenAI reconheceu suas ferramentas têm sido usadas pela Rússia e ♣ China para criar desinformação com intenção presumivelmente influenciar eleições; mais avançadas são os tipos da AI caso sejam desenvolvidas poderiam ♣ representar riscos ainda maiores: tudo aquilo pelo qual uma mídia social pode fazer parte das pessoas polarizando-se na sociedade
Além disso, ♣ a IA geradora torna-se popular pela OpenAI e está tendo um enorme impacto ambiental medido apostas serie a brasileirao termos de uso da ♣ eletricidade. Como Bloomberg disse recentemente: "A AI já causa estragos nos sistemas globais". Esse efeito pode crescer consideravelmente à medida ♣ que os próprios modelos se tornam maiores (o objetivo dos jogadores grandes). Em grande parte o governo vai dizer Altman ♣ - para garantir uma boa relação com as empresas ambientais no final do ano [isso certamente não justifica]),
Honestamente, não acho ♣ que chegaremos a uma IA apostas serie a brasileirao quem possamos confiar se permanecermos no caminho atual.
Enquanto isso, a OpenAI assumiu uma posição ♣ de liderança e Altman está no conselho da segurança interna. Seu aconselhamento deve ser tomado com ceticismo Altmann estava ♣ pelo menos brevemente tentando atrair investidores para um investimento apostas serie a brasileirao infraestrutura na área do IA gerativa que poderia se tornar ♣ num tremendo desperdício dos recursos financeiros talvez melhor gasto noutro lugar - Se (como eu suspeitamos) o AI gerador não ♣ for mais adequado à Inteligência Artificial Geral [AGI].
Finalmente, superestimar a IA atual pode levar à guerra. A "guerra de chips" ♣ EUA-China sobre controles da exportação apostas serie a brasileirao que os Estados Unidos estão limitando as exportações críticas dos processadores GPU projetados ♣ pela Nvidia fabricados na Taiwan está impactando o avanço das tensões entre duas nações e aumentando suas capacidades para avançar ♣ com AI; por exemplo: uma batalha pelos chip é amplamente baseada no conceito do fato deles continuarem melhorando exponencialmente mesmo ♣ quando dados sugerem abordagens atuais podem ter recentemente atingido um ponto decrescente (veja abaixo).
Altman pode muito bem ter começado com ♣ boas intenções. Talvez ele realmente quisesse salvar o mundo de ameaças da IA e guiar a AI para sempre, talvez ♣ ganância tenha assumido como muitas vezes faz!
Infelizmente, muitas outras empresas de IA parecem estar no caminho do hype e corte ♣ que Altman mapeou. Antrópico – formado a partir um conjunto dos refugiados OpenAI preocupados com o fato da segurança AI ♣ não ter sido levada muito à sério - parece cada vez mais competir diretamente na nave-mãe tudo isso implica ♣ apostas serie a brasileirao uma startup bilionária Perplexidade Parece ser outra lição objetiva sobre ganância; treinamento nos dados é suposto usarem "Microsoft", enquanto ♣ isto está sendo feito
Simplesmente não podemos confiar apostas serie a brasileirao startups gigantes de IA privadas para se governarem a si mesmas, e ♣ caso nós mesmos nos regulemos sobre elas. E mesmo que eles sejam incapazes disso tudo certamente vamos deixá-los dominar o ♣ mundo!
E-mail:
Honestamente não pense que chegaremos a uma IA apostas serie a brasileirao quem podemos confiar se permanecermos no caminho atual. Além da influência ♣ corruptora do poder e dinheiro, há um problema técnico profundo também: modelos de linguagem grandes (a técnica central das inteligências ♣ artificiais generativas) inventado pelo Google são improváveis
nunca
para ser seguro. Eles são recalcitrantes e opacos por natureza – as chamadas “caixa ♣ preta” que nunca podemos controlar completamente dentro de nós, pois técnicas estatísticas podem fazer algumas coisas incríveis como acelerar a ♣ programação do computador ou criar personagens interativo
nunca.
Eles são uma base pobre para a IA, que podemos confiar com nossas vidas ♣ e nossa infraestrutura.
Dito isto, não acho que devemos abandonar a IA. Fazer uma AI melhor – para medicina e ciência ♣ material?e ciências climáticas etc - realmente poderia transformar o mundo: é improvável de ser capaz disso acontecer com ela; mas ♣ alguma forma futura ainda apostas serie a brasileirao desenvolvimento pode mudar isso mesmo!
A ironia é que a maior ameaça à IA hoje pode ♣ ser as próprias empresas de AI; seu mau comportamento e promessas exageradas estão desviando muitas pessoas. Muitos são prontos para ♣ o governo tomar uma mão mais forte, De acordo com um junho pesquisa pelo Instituto Política Inteligência Artificial da América ♣ "regulamentação do sistema operacional (IA)" prefere “regulação das medidas obrigatóriaes segurança dos laboratórios apostas serie a brasileirao vez disso permitir às companhias se ♣ auto- regular”.
Para chegar a uma IA apostas serie a brasileirao que podemos confiar, há muito tempo faço lobby por um esforço transnacional semelhante ♣ ao consórcio de física altamente energética da Cern. O momento para isso é agora: esse trabalho focado na segurança e ♣ confiabilidade do AI no lugar dos lucros; desenvolver novas técnicas relacionadas à inteligência artificial pertencentes aos seres humanos – não ♣ apenas algumas empresas gananciosas - pode ser transformador!
Mais do que isso, os cidadãos precisam falar e exigir uma IA boa ♣ para muitos. Uma coisa posso garantir é não chegarmos à terra prometida da AI se deixar tudo nas mãos de ♣ Silicon Valley s; Os chefes tecnológicos têm sombreado a verdade por décadas: Por quê devemos esperar Sam Altman visto pela ♣ última vez navegando pelo Vale Napa apostas serie a brasileirao um supercarro Koenigsegg R$ 4m?
Gary Marcus é um cientista, empresário.
autor e best-seller. Ele ♣ foi
Fundador e CEO da empresa de aprendizado automático Geometric Intelligence, que foi adquirida pela Uber é autor dos seis ♣ livros mais recentes do Vale Doming Silicon Valley (MIT Press).
heiro aí depois travou. (depois tomei 2 escanteios relâmpagos da perdia oferta "), mais
encerari bem Antes E ainda Confismou...1,nunca fui 🍐 de reclamarar :;porém dessa vez vim
ueixaar por porque dia me [Editado pelo Reclame Aqui] -2,tava em apostas serie a brasileirao cinza lá travaado
com 🍐 eu Apertando Em apostas serie a brasileirao confirmar é dizendo: foi sem sucesso mas do valor Não caia-?aí
Depois elesumiu tudo!!!
Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore magna aliqua. Ut enim ad minim veniam, quis nostrud exercitation ullamco laboris nisi ut aliquip ex ea commodo consequat. Duis aute irure dolor in reprehenderit.