Retrieval Dreams

James Vincent: AI is killing the old web, and the new web struggles to be born, The Verge 26.06.2023 kritisiert, wie KI parasitär die Inhalte im heutigen Internet ausbeutet. „These models are trained on strata of data laid down during the last web-age, which they recreate imperfectly. Companies scrape information from the open web and refine it into machine-generated content that’s cheap to generate but less reliable. This product then competes for attention with the platforms and people that came before them. Sites and users are reckoning with these changes, trying to decide how to adapt and if they even can. “ Die Versuche von Webseiten wie Reddit, sich dagegen zu sperren, wirken hiflos. Eine neue Qualität würde aber entstehen, wenn Google durch KI generierte Zusammenfassungen der Linkinhalte präsentieren würde, die über den eigenlichen Links steht und den Traffic von diesen Seiten abzieht. „In the end, Google might kill the ecosystem that created its value, or change it so irrevocably that its own existence is threatened.“ Eine andere Gefahr besteht darin, dass KI – wie an einem Beispiel demonstriert – Informationen falsch gewichtet und statt Fachkenntnissen abgeleitete Vermutungen präsentiert. „AI-generated misinformation is insidious because it’s often invisible. It’s fluent but not grounded in real-world experience, and so it takes time and expertise to unpick. If machine-generated content supplants human authorship, it would be hard — impossible, even — to fully map the damage. And yes, people are plentiful sources of misinformation, too, but if AI systems also choke out the platforms where human expertise currently thrives, then there will be less opportunity to remedy our collective errors. „ Die Veränderungen der KI sind im Grunde nach wie vor ein Kampf um Informationen, die durch die Skalierbarkeit der KI, der neuen Fülle der Informationen verändert wird. Dies könnte auf der anderen Seite wieder zu einer Wertschätzung kontrollierter Information führen. „The new web is struggling to be born, and the decisions we make now will shape how it grows“.