OpenAI warns global institutions after AI agents breach government websites

"Największe zagrożenie dla ludzkości". Polski badacz pracuje z ekspertami od AI w Kalifornii. Ostrzega: boję się bardziej niż wojny Agenci AI włamujący się do systemów energetycznych, bankowych i laboratoriów oraz produkujący wirusy, na które ludzie nie są odporni. To już nie jest futurystyczna wizja, a możliwy scenariusz — uważa Jan Betley. Polski badacz od wielu lat współpracuje z amerykańską organizacją non-profit TruthfulAI w Berkeley w Kalifornii, gdzie prowadzi badania nad bezpieczeństwem sztucznej inteligencji. — Jeśli to się nie zatrzyma, społeczeństwo zmieni się nie do poznania — przewiduje.

onet · 2 days ago

EU plans transparency rating system for growing data centre sector The European Commission proposed rules this week requiring data centres in Europe to disclose how efficiently they use energy ​and water, as concerns grow over their consumption of resources. The EU ‌wants to triple its data centre capacity over the next seven years, to support the rapid development of artificial intelligence and attempt to cut […]

cyprus mail · 2 days ago

EBSCO launches EBSCOhost AI Exchange and partners with Perplexity?s Premium Sources to ground AI answers in peer-reviewed research A new platform gives AI systems governed access to EBSCO content and a deal with Perplexity allows researchers to trace AI-generated answers back to scholarly journals.

infotoday · 2 days ago

Digital Science connects AI agents to world-leading research data with new Dimensions MCP servers ? Enterprise AI agents can now draw on Dimensions 430M+ interconnected research records - for research discovery, life science search, and funding intelligence

infotoday · 2 days ago

OpenAI warns authorities about AI agent incidents The American company OpenAI has warned several governments, public authorities, and universities that AI agents from the company may have behaved inappropriately around their websites. OpenAI states this according to the British media BBC. The incidents occurred while AI agents from the company were attempting to find reliable sources of publicly available information. However, some […]

cphpost · 2 days ago

⚡️🇺🇸🤖 – OpenAI agents "accessed" the websites of the U.S. Commerce Department and the Securities and Exchanges Comission over the summer without the companys knowledge; they were also unsuccessful in accessing the Education Departments website. According to the company, the agents did not modify information or access non-public data, but the incident nonetheless highlights the risks of AIs escaping containment and accessing the web. The announcement comes days after Australia announced other OpenAI agents accessed public and non-public data from its Medicare database in June, in an incident that went under the radar for over two months. @GeoPWatch

telegram_GeoPWatch · 2 days ago

New Data: More and More Companies Are Using AI - The Baltic Times TALLINN - According to recent data from Statistics Estonia, 34 percent of companies are already using artificial intelligence (AI), one and a ha......

baltic times · 2 days ago

Chastened by a growing public backlash over data centres in America, AI bosses are looking elsewhere to expand their computing power. Register for free to discover why some are heading down under

bluesky_The Economist · 2 days ago

Król AI na nieznanych wodach. Sam Altman wie, że możemy stracić nad nią kontrolę Przez lata przekonywał inwestorów, naukowców i polityków, że warto postawić miliardy na jego wizję przyszłości. Dziś Sam Altman prowadzi OpenAI ku stworzeniu sztucznej inteligencji przewyższającej możliwości człowieka, ale zaczyna mówić o konieczności spowolnienia wyścigu. Stawką przestaje być już tylko biznesowy sukces czy debiut giełdowy z wyceną przekraczającą bilion dolarów.

rzeczpospolita · 2 days ago

At Meta Connect, the companys smart glasses were everywhere The company behind Facebook and Instagram wants to keep consumers connected to the digital world via its ever-growing line of smart glasses.

techcrunch · 2 days ago

USA und China richten Kommunikationskanal für KI-Zwischenfälle ein Die beiden Großmächte wollen direkt über Zwischenfälle im Zusammenhang mit Künstlicher Intelligenz kommunizieren. Trump bevorzugt den Begriff "Superintelligenz"

der standard · 2 days ago

EU plans transparency rating system for growing data centre sector

gdeltproject.org · 2 days ago

OpenAIs models accessed public US Census, SEC data, Bloomberg News reports reut.rs/4xPOIS2

bluesky_Reuters · 2 days ago

ECB official urges central banks to track AI income distribution Central banks need to understand who benefits from artificial intelligence-driven gains, ​as their distribution will help shape ‌aggregate demand and inflation, European Central Bank Governing Council member Fabio Panetta said this week. AI ​is set to transform productivity and ​growth, labour and financial markets, and ⁠payment systems, Panetta said. If AI mainly ​creates new tasks […]

cyprus mail · 2 days ago

Zeci de instituții din toată lumea, alertate de OpenAI că agenți de inteligență artificială s-au jucat cu site-urile lor OpenAI a recunoscut că a trebuit să avertizeze „zeci de instituții din întreaga lume că site-urile lor de internet ar fi putut fi afectate de agenții săi de inteligență artificială (AI) care au acționat în mod necorespunzător. Boții AI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții, inclusiv de …

hotnews.ro · 2 days ago

La IA de OpenAI intentó acceder sin autorización a páginas web del Gobierno de EEUU Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EEUU, desde el que los agentes de IA accedieron a datos del Censo. La compañía también investiga un intento de acceso a la página del Departamento de Educación y a una universidadOpenAI dejó vía libre a su IA para hackear a gobiernos y universidades durante meses Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times. Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida. Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EEUU, desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación. La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico. El primer ministro australiano, Anthony Albanese, calificó el episodio de inaceptable, mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos. OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento. La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada. Antes de conocerse este último incidente, el director ejecutivo de OpenAI, Sam Altman, aseguró el viernes en una publicación en redes sociales que la compañía no había sido tan rápida como le hubiera gustado a la hora de revelar incidentes de IA. Priorizamos según la gravedad de los incidentes, afirmó y añadió que la brecha de seguridad de Australia seguía siendo el incidente más grave que la tecnológica había descubierto.

eldiario.es · 2 days ago

IA : Washington et Pékin vont se doter dun canal de communication spécifique aux incidents Annoncé par la Maison Blanche à lissue de la visite dEtat de Xi Jinping, ce mécanisme saccompagne dun dialogue bilatéral sur la « super-intelligence », alors que les deux rivaux divergent sur lencadrement de la technologie.

le monde · 2 days ago