Mind your co-pilot
Vous trouverez le texte français ci-dessous - You will find the English text after the French
Liebe Leserinnen und Leser,
Wir freuen uns, Ihnen unsere 102. dV-News (11-2024) mit einer Auswahl an Artikeln und Links zukommen zu lassen.
«Mind the gap between the train and the platform» ist ein bekannter Satz für alle, die mit der Londoner U-Bahn vertraut sind. «Mind your co-pilot» ist die Warnung, die nun alle in Bezug auf unsere IT-Infrastruktur beherrschen sollten. Eine Warnung, die aus einem erlebten Vorfall entstanden ist. Einige werden sagen: «Wir haben es gewusst», während andere sich darüber lustig machen werden. Hinterher ist man bekanntlich immer schlauer. Einen solchen Vorfall am eigenen Leib zu erfahren, hat jedoch eine ganz andere Dimension. Glauben Sie uns!
Am 29. Mai wurde ein digiVolution-Team auf der Rückfahrt von einem Termin auf der Autobahn von einem, sagen wir, taktlosen Autofahrer überholt. In unserem Fahrzeug war die Reaktion des (welschen) Fahrers eine Reihe von blumigen Qualifikationen, bei denen es nicht in erster Linie um Etikette ging. Unser Auto reagierte darauf: «Was kann ich für Sie tun?». Die Antwort kam wie aus der Pistole geschossen: «Ich habe dich um nichts gebeten». Daraufhin antwortete das Auto: «Gut, ich schweige».
Nach einem anfänglichen Lacher wurde uns der Vorfall bewusst und wir schalteten schnell in den Modus «überhaupt nicht begeistert». Natürlich wussten wir, insbesondere dank der Arbeit der Mozilla-Stiftung, dass das Auto kein privater Ort mehr ist. Aber trotzdem. Die Geeks werden uns sagen: «Man muss die Funktion nur deaktivieren». Angenommen, man findet nach mühsamer Suche (denn die Lösung steht nicht auf Seite 1 des Handbuchs) die magische Option... welche Garantie haben wir, dass die kleine Taste die Funktion wirklich deaktiviert und nicht im Hintergrund weiter läuft? Keine einzige! Erinnern wir uns an den Sturm Irma in Florida, als Tesla aus der Ferne die Reichweite von Autos erhöhen konnte, damit ihre Besitzer in sichere Entfernung fliehen konnten. Eine gute Idee von Tesla, ABER....! Für die meisten bedeutete dies, dass sich ohne ihr Wissen jemand imaginär auf dem Beifahrersitz befand. Unsere Fahrzeuge sind nur noch rollende Computer. Und das hat Folgen.
Bei seinem Recall-Dienst, der alle fünf Sekunden ein Bild unseres Bildschirms aufnimmt und es so denjenigen, die sich verirrt haben, ermöglicht, ihre Arbeit in den vorherigen 3 Monate zu rekonstruieren, wurde Microsoft durch den Aufschrei der Öffentlichkeit zu einem Rückzieher gezwungen. Das System ist somit nicht mehr standardmässig aktiviert. Aber noch einmal: Welche Garantie hat der Nutzer, dass der Dienst tatsächlich nicht mehr im Hintergrund weiter läuft? Ein weiteres dieser Easter Eggs oder versteckten Funktionen, die kein Zweck dienen. Ausser zusätzlichen Schwachstellen zu schaffen?
Offensichtlich wird der private Raum dramatisch eingeschränkt. Als Nutzer sind wir hilflose Zuschauer. Diejenigen, die am besten informiert, schlau oder paranoid sind, werden versuchen, Schutzmassnahmen zu ergreifen, aber wie gross ist angesichts der Allgegenwärtigkeit der IKT ihre reale Chance, die Kontrolle über ihre Daten zu erhalten? London: 80 Kameras pro km2. Und bei uns?
«Move fast and break things», sagte Mark Zuckerberg 2014. Die Tech-Giganten haben uns völlig abgehängt. Sie bieten uns zwar grossartige Dienstleistungen an, aber zu welchem Preis? Den unserer Freiheit.
Stellen wir also die in unseren Beiträgen 100 Mal gestellte Frage erneut: Wollen wir uns die Mittel geben, um unsere Daten zu beherrschen? Wenn ja, brauchen wir eine Entscheidung auf hoher Ebene und die entsprechenden Mittel. Ist der Einsatz das Risiko wert? Können wir aufholen? Dies sind die ersten Antworten, die wir als Gesellschaft geben müssen.
Und wenn meine KI der Meinung ist, dass ich etwas schreibe oder sehe, was strafrechtlich relevant sein könnte, wird sie mich dann anzeigen? Und wenn ich kritische Beiträge über sie schreibe, wird sie mir dann den Dienst verweigern oder mein Auto anweisen, mich gegen einen Baum zu fahren? Erinnern wir uns «2001: Odyssee im Weltraum».
Bitte denken Sie daran, unsere Arbeit zu unterstützen.
BOOKS & REPORTS
Dies ist eine Liste relevanter Bücher und Publikationen, auf die wir bei unseren Recherchen der letzten Wochen gestossen sind. Sie finden sie auf dVPedia unter dVLibrary.
NEWS
► Stalking - Endlich wird dieses Delikt im Strafgesetzbuch verankert. Stalking ist diese obsessive Praxis der Belästigung, die Morane dazu brachte, sich das Leben zu nehmen. Dank an das Parlament, dass es endlich diese Entscheidung getroffen hat... ausser, dass es 17 Jahre gedauert hat, bis es soweit war, denn der erste Antrag stammt aus dem Jahr 2007. Und trotz der offensichtlichen Tatsachen sind einige Parlamentarier immer noch der Meinung, dass es sich um ein vernachlässigbares Phänomen handelt. Zwei weitere Beweise dafür, dass die Demokratie von der digitalen Mutation überfordert ist. Oder sträflich faul? Wie können wir unsere Kinder schützen? Frankreich versucht sich an einem Ansatz mit einem Bericht mit dem Titel «Kinder und Bildschirme: Auf der Suche nach der verlorenen Zeit», einem Text, der zwischen einem totalen Verbot von Bildschirmen und der Notwendigkeit einer besseren digitalen Bildung schwankt und gegenseitige Reaktionen hervorruft. Wird das Mittel fruchten?
► Angst vor der Tech? - Dieses Gefühl wird uns noch lange begleiten. Die Frage, ob die KI ein Segen für die Menschheit oder ihr letztes Requiem ist, wird noch lange Zeit die Diskussionen auf den Messen bestimmen. Aber hören wir auch den Fachleuten der Branche zu. Lassen wir die Musks, Altmans oder Zuckerbergs ausser Acht, die dies aus politischer Taktik und finanziellen Motiven tun, und hören wir denjenigen zu, die diese Technologien entwickeln. Auch sie haben legitime Ängste, aber ihr Problem ist, dass sie diese nicht frei äussern können, ohne den Verlust ihres Arbeitsplatzes zu riskieren. Wer soll ihnen zuhören, wenn die Staaten immer wieder beweisen, dass sie nicht über die nötigen Kompetenzen verfügen, um die Herausforderungen zu verstehen, und es offensichtlich riskant ist, die Industrie machen zu lassen, was sie will? Angeblich sind unsere Sicherheit und Privatsphäre die geringste Sorge dieser Leute. Bei Open AI hat Altman kürzlich sein Sicherheitsteam entlassen und durch ein anderes ersetzt, das er persönlich führt. Der Interessenkonflikt ist schockierend. Eine Lösung, die ein neutraler Staat wie die Schweiz anbieten kann, ist, High-Tech-Ombudsmann der Welt zu werden, ein Ort, an dem jeder Whistleblower angehört, verstanden und geschützt wird. Auch ein Weg, um Talente zu gewinnen??
► Gedächtnis der Menschheit - Dies ist ein Thema, das wir schon mehrfach behandelt haben und das ein neuer Artikel in einem anderen Licht beleuchtet: In China wird das Internet verschwinden. Eine CD-Rom, die aus Plastik besteht, lebt. Nach ein paar Jahren verfällt sie, genau wie Glasfaserkabel, deren Lebensdauer ebenfalls viel kürzer ist als auf der Verpackung angegeben. Das gesamte Internet und die IKT sind den Unwägbarkeiten der Zeit unterworfen. Während immer noch die Illusion der Durchdringung mit Demokratie, Kostenlosigkeit oder auch Nachhaltigkeit durch das Internet vorherrscht, zeigt eine wachsende Zahl von Ereignissen, dass die Situation weniger poetisch ist und dass im Internet die gleichen Regeln herrschen wie überall sonst auch. Physikalische, politische oder auch wirtschaftliche. Dieser Artikel über das chinesische Internet ist sehr empfehlenswert und sollte zum Nachdenken über den Fortbestand von Wissen und Kultur über die Zeit hinweg anregen.
Das war's für diese 102. Ausgabe. Wir hoffen, dass sie Sie einmal mehr inspiriert hat und wünschen Ihnen viel Spass beim Entdecken der ausgewählten Artikel und Links.
Bitte registrieren Sie sich für dVPedia und unterstützen Sie damit seine Entwicklung zum Nutzen aller.
Mind your co-pilot
Chers Lectrices et Lecteurs,
Nous avons le plaisir de vous adresser notre 102ème dV-News (11-2024) et leur sélection d’articles et liens.
«Mind the gap between the train and the platform» est une phrase bien connue des familiers du métro londonien. «Mind your co-pilot» est la mise en garde que tous devraient désormais maîtriser par rapport à notre infrastructure IT. Un avertissement né d’un incident vécu. Certains diront « on le savait» alors que d’autres se moqueront. Après on est toujours plus intelligent, c’est bien connu. Expérimenter personnellement un tel incident prend cependant une tout autre dimension. Croyez-nous !
Le 29 mai dernier, de retour d’un rendez-vous, une équipe de digiVolution fut dépassée sur l’autoroute par un automobiliste disons… indélicat. Dans notre véhicule, la réaction du conducteur (romand) fut une série de qualificatifs fleuris dont l’élégance n’était pas le souci premier. Notre voiture dit alors «que puis-je faire pour vous?». La réponse à fusé «toi, je ne t’ai rien demandé». Et la voiture de répondre, «très bien, je me tais».
Après un fou rire généralisé, nous avons pris la mesure de l’incident et sommes passés rapidement en mode «pas content du tout». Bien sûr que nous savions, notamment grâce aux travaux de la fondation Mozilla, que la voiture n’est plus un lieu privé. Mais tout de même. Les geeks nous diront «il suffit de désactiver la fonction». Admettons, après de fastidieuses recherches (car la solution n’est pas en page 1 du manuel), que l’on trouve l’option magique… quelle garantie a-t-on que le petit bouton va vraiment désactiver la fonction? Aucune! Souvenons-vous de la tempête Irma en Floride, lorsque Tesla a pu à distance augmenter l’autonomie des voitures pour que leurs propriétaires puissent fuir plus loin. Louable de la part de Tesla, MAIS…! Cela signifiait pour la plupart qu’à leur insu il y avait quelqu’un sur le siège passager. Nos véhicules ne sont désormais plus que des ordinateurs roulants. Et cela a des conséquences.
Avec son service recall qui prendrait une image de notre écran chaque 5 secondes et permettrait ainsi à ceux qui se seraient égarés dans leurs activités de reconstituer leur parcours durant les 3 mois précédents, Microsoft a été contrainte au rétropédalage par une levée de boucliers. Le système n’est alors plus activé par défaut. Mais encore une fois, quelle garantie a l’utilisateur que le service est bel et bien inopérant? Un autre de ces œufs de Pâques ou fonctions cachées qui ne servent à rien. Sinon à créer des vulnérabilités supplémentaires?
À l’évidence, l’espace privé se réduit de manière dramatique. En tant qu’utilisateurs, nous sommes des spectateurs impuissants. Les plus documentés, malins ou paranoïaques tenteront de prendre des mesures de protection, mais du fait de l’ubiquité des TIC, qu’elle est leur réelle chance de garder le contrôle sur leur données? Londres: 80 caméras au km2. Et chez nous?
«Move fast and break things» disait en 2014 Mark Zuckerberg. Les géants de la tech nous ont complètement largués. Certes, ils nous offrent des services fascinants, mais à quel prix? Celui de notre liberté.
Alors reposons la question 100 fois adressée dans nos billets: voulons-nous nous donner les moyens de maîtriser nos données? Si oui, il va falloir une décision à haut niveau et des moyens. L’enjeu en vaut-il la chandelle? Est-ce rattrapable? Ce sont les premières réponses à apporter en tant que société.
Et si mon IA estime que je suis en train d’écrire ou de consulter des choses qui pourraient être de nature pénale, va-t-elle me dénoncer? Et si j’écris des billets critiques à son égard, va-t-elle refuser de me servir ou dire à ma voiture de m’envoyer dans un arbre? Souvenons-nous de «2001: odyssée de l’espace».
Merci de penser à soutenir notre travail.
Empfohlen von LinkedIn
BOOKS & REPORTS
Voici la liste des livres et publications d'intérêt décou-verts lors de nos recherches durant les dernières semaines. Vous les retrouverez sur dVPedia à la rubrique dVLibrary.
ACTUALITES
► Stalking – Ce délit sera enfin inscrit au code pénal. Le stalking, c’est cette pratique de harcèlement obsessionnel qui a poussé Morane à s’enlever la vie. Merci au Parlement d’avoir enfin pris cette décision… sauf qu’il aura fallu attendre 17 ans pour y arriver, la première motion datant de 2007. Et malgré les évidences, certains parlementaires estiment encore qu’il s’agit d’un phénomène négligeable? Deux évidences supplémentaires que la démocratie est dépassée par la mutation numérique. Ou coupablement paresseuse? Alors, comment protéger nos enfants? La France s’essaie à une approche avec un rapport intitulé «Enfants et écrans: À la recherche du Temps perdu». Ce texte oscille entre interdiction totale des écrans et nécessité de mieux former au numérique et suscite des réactions contrastées. Le remède portera-t-il ses fruits?
► Peur de la tech? – Ce sentiment nous accompagnera encore longtemps. Savoir si l’IA est un bienfait pour l’humanité ou son dernier requiem agitera encore longtemps les discussions de salons. Mais écoutons aussi les professionnels du secteur. Faisons abstraction des Musk, Altman ou Zuckerberg qui le font à des fins de tactique politique et de motifs financiers et écoutons ceux qui développent ces technologies. Eux aussi ont des craintes légitimes, mais leur problème est de ne pas pouvoir librement les exprimer sans risquer de perdre leur emploi. Qui pour les écouter alors que les États ne cessent de démontrer qu’ils ne disposent pas des compétences requises pour comprendre les enjeux et que manifestement il est hasardeux de laisser l’industrie faire ce qu’elle veut? Notre sécurité, notre espace privé semble être le dernier des soucis de ces gens et chez Open AI, Altman a récemment congédié son team de sécurité pour le remplacer par un autre qu’il conduit personnellement. Le conflit d’intérêts est choquant. Osons alors une solution qu’un état neutre comme la Suisse peut proposer: devenir le High Tech Ombudsman du monde, un endroit où tout lanceur d’alerte sera écouté, compris et protégé. Aussi une manière pour gagner des talents?
► Mémoire de l’humanité – Voici un thème que nous avons abordé plusieurs fois et qu’un nouvel article vient éclairer sous un autre jour: en Chine, Internet est en train de disparaître. Un CD-Rom, en plastique, est vivant. Après quelques années il se dégrade, comme les fibres optiques dont la durée de vie est également beaucoup plus courte que ce qui est écrit sur l’emballage. Tout Internet et les TIC sont soumis aux aléas du temps. Alors que domine toujours l’illusion qu’Internet fera pénétrer la démocratie partout et imposera un modèle de développement durable, un nombre croissant d’évidences montre que la situation est moins poétique et qu’il y règne les mêmes règles que partout ailleurs, physiques, politiques, ou encore économiques. Nous recommandons vivement cet article sur l’Internet chinois qui devrait inspirer d’utiles réflexions quant à la pérennité du savoir et de la culture au travers des âges.
Voilà pour cette 102ème édition. Nous espérons qu’elle vous a, une fois encore, inspiré et vous souhaitons aussi une enrichissante découverte des articles et liens sélectionnés.
Mind your co-pilot
Dear Readers,
We are pleased to send you our 102nd dV-News (11-2024) with a selection of articles and links.
«Mind the gap between the train and the platform» is a well-known phrase among those familiar with the London Underground. «Mind your co-pilot» is the warning that everyone should be familiar with by now when it comes to our IT infrastructure. Some will say «we knew it», while others will scoff. As we all know, we are always smarter afterwards. Experiencing such an incident first-hand, however, takes on a whole new dimension. Believe us!
On May 29, on our way back from a meeting, a digiVolution team was overtaken on the freeway by an indelicate motorist. In our car, the (French-speaking) driver's reaction was a series of flowery adjectives whose elegance was not his primary concern. Our car then said «what can I do for you?» The response was «I didn't ask you anything». And the car replied "fine, I'll shut up».
After a burst of laughter, we took the full measure of the incident and quickly switched to «not happy at all» mode. Of course we knew, thanks in particular to the Mozilla Foundation's work, that the car is no longer a private place. But still. The geeks will tell us «just disable the function». Let's say, if after some exhausting research (because the solution isn't on page 1 of the manual), we find the magic option... what guarantee do we have that the little button will actually disable the function and does not continue to run in the background? None at all! Remember storm Irma in Florida, when Tesla was able to remotely increase the range of its cars so that their owners could flee at a safe distance. Commendable on Tesla's part, BUT....! For most, this meant that, unbeknownst to them, there was someone imaginary in the passenger seat of the vehicle. These are now nothing more than rolling computers. And that has consequences.
With its recall service, which would take an image of our screen every 5 seconds, enabling those who had lost their way to reconstruct their journey during the previous 3 months, Microsoft was forced to backtrack by the outcry. The system is therefore no longer activated by default. But then again, what guarantee does the user have that the service is actually no longer running in the background? Another Easter egg or hidden function that serves no purpose. Except to create additional vulnerabilities?
Clearly, private space is shrinking dramatically. As users, we are powerless spectators. The most informed, clever or paranoid will try to take protective measures, but given the ubiquity of ICTs, what chance do they really have of regaining control over their data? London: 80 cameras per km2. And here at home?
«Move fast and break things» said Mark Zuckerberg in 2014. The tech giants have completely left us behind. Sure, they offer us fascinating services, but at what price? Our freedom.
So let's repeat the question we've asked 100 times in our posts: do we want to give ourselves the means to control our data? If so, we're going to need a high-level decision and the means to make it happen. Is it worth it? Can we catch up? These are the first questions we need to answer.
And if my AI thinks I'm writing or looking at something that could be criminal in nature, will it report me? And if I write posts critical of it, will it refuse me service or tell my car to drive me into a tree? Let's remember «2001: A Space Odyssey».
Please consider supporting our work.
BOOKS & REPORTS
Here's a list of books and publications of interest discovered during our research over the last few weeks. You'll find them in the dVLibrary section of dVPedia
NEWS
► Stalking - The obsessive stalking that drove Morane to take his own life will finally be enshrined in the penal code. Thanks to Parliament for finally taking this decision... except that it took 17 years to get it right, with the first motion dating back to 2007. And despite all the evidence, some parliamentarians still believe that this is a negligible phenomenon. Yet more evidence that democracy has been overtaken by digital mutation. Or just plain lazy? How can we protect our children? France is trying its hand at one approach with a report entitled «Children and Screens: In Search of Lost Time», a text which, oscillating between a total ban on screens and the need for better digital training, is provoking contrasting reactions. Will the remedy work?
► Fear of tech? - This feeling will be with us for a long time to come. Whether AI is a blessing for mankind or its final requiem will be a topic of discussion at trade fairs for a long time to come. But let's also listen to the industry professionals. Let's ignore the Musk, Altman or Zuckerbergs who do it for political tactics and financial motives and listen to those who develop these technologies. They too have legitimate fears, but their problem is that they can't freely express them without risking losing their jobs. Who is going to listen to them, when governments are constantly demonstrating that they do not have the skills required to understand what is at stake, and it is clearly risky to let industry do as it pleases? Our security, our private space seems to be the least of these people's worries. At Open AI, Altman recently fired his security team and replaced it with one he personally leads. The conflict of interest is shocking. Let's dare to propose a solution that a neutral state like Switzerland can offer: to become the High-Tech Ombudsman of the world, a place where whistleblowers are listened to, understood and protected. Also a way to win talent?
► Humanity's memory - Here's a topic we've touched on several times, and which a new article sheds a new light on: in China, the Internet is disappearing. A CD-Rom, made of plastic, is alive. After a few years, it degrades, just like optical fibers, whose lifespan is also much shorter than what's written on the packaging. The whole Internet and ICT are subject to the vagaries of time. While the illusion of the penetration of democracy, free access and sustainability through the Internet still dominates, a growing body of evidence shows that the situation is less poetic and that the same rules apply as everywhere else. Physical, political and economic. We highly recommend this article on the Chinese Internet, which should inspire useful reflections about the sustainability of knowledge and culture through the ages.
That's all for this 101st edition. We hope you enjoyed it again. We wish you an enriching discovery of the selected articles and links (a long list for an entire month), and look forward to seeing you in two weeks.