-
KI-Halluzinationen: Hilfe, meine KI ʇɹǝıuıznןןɐɥ!
Nicht nur Menschen können halluzinieren, sondern auch generative Sprachmodelle wie beispielsweise ChatGPT. Was eine KI-Halluzination ist, wodurch sie entsteht und wie sie verhindert werden kann, haben wir einmal genauer beleuchtet. Was ist eine KI-Halluzination? Von einer KI-Halluzination spricht man, wenn ein großes generatives Sprachmodell (Large Language Model; LLM) falsche Informationen oder Fakten erzeugt, die nicht der Realität entsprechen. Dabei erscheinen die Halluzinationen – zumindest auf den ersten Blick – oft plausibel, da flüssige, kohärente Texte generiert werden. Wichtig ist jedoch zu betonen, dass LLMs nicht bewusst lügen, sondern schlichtweg kein Bewusstsein für die erstellten Texte haben. „Large Language Models neigen dazu, sehr selbstsicher auch neue (Falsch-) Informationen zu erfinden.“ – Thora…
-
TÜVIT zertifiziert IT Safe von Prior1 nach „EN 50600 ready“
Prior1 hat mit der Produktserie IT Safe (HE42/HE47) als erster Anbieter modularer und standardisierter Rechenzentrumslösungen die Auszeichnung „EN 50600 ready“ durch TÜVIT erlangt. Ein modulares Mini-Rechenzentrum, das flexibel an die aktuelle Unternehmenssituation angepasst werden kann – das stellt der IT Safe von Prior1 dar. Dass der Serverschrank dabei auch grundlegende Anforderungen an die physische Sicherheit sowie Verfügbarkeit erfüllt, kann Prior1 ab sofort mit der Auszeichnung „EN 50600 ready“ von TÜVIT belegen. Hinter „EN 50600 ready“ verbirgt sich ein erweitertes Verfahren der bewährten TSI.EN50600 Prüfung für Rechenzentrumsmodule, deren Anbieter eine Vor-Zertifizierung für ihr System erlangen können. Das bedeutet, dass etliche Anforderungen, die an eine Zertifizierung nach EN 50600 gestellt werden, bereits…
-
Intelligente Vernetzung von Fahrzeugen mit Verkehrsinfrastruktur: TÜVIT entwickelt neues Schutzprofil für Roadside ITS Station Gateways mit
Gemeinsam mit der Bundesanstalt für Straßenwesen (BASt) hat TÜV Informationstechnik (TÜVIT) ein Schutzprofil für ein Roadside ITS Station Gateway (RGW) entwickelt. Es bildet die Grundlage für den sicheren Einsatz von kooperativen intelligenten Verkehrssystemen. Ein nahendes Stauende, eine umspringende Ampel oder eine bevorstehende Gefahrensituation: Fahrzeuge, die untereinander sowie mit der straßenseitigen Infrastruktur kommunizieren und Fahrer:innen ereignisgesteuert informieren, stellen die vernetzte Mobilität von morgen dar. Von hoher Bedeutung ist dabei jedoch, dass die dahinterstehende Informations- und Kommunikationstechnologie sicher und vertrauenswürdig ist. Denn verarbeitet sowie übertragen werden Verkehrsdaten, die vor Manipulation geschützt werden müssen. Aus diesem Grund hat TÜVIT gemeinsam mit der Bundesanstalt für Straßenwesen ein Schutzprofil für ein Roadside ITS Station Gateway…
-
Nachweis über Datensicherheit: BSI TR-03161 für DiGA- & DiPA-Hersteller ab 2025 verpflichtend
Um im DiGA- bzw. DiPA-Verzeichnis gelistet zu werden, müssen Betreiber und Hersteller digitaler Gesundheits- und Pflegeanwendungen unter anderem einen Nachweis über die Datensicherheit ihrer Anwendung erbringen. Künftig muss dieser auf Grundlage der Technischen Richtlinie BSI TR-03161 erfolgen. Stichtag ist der 1. Januar 2025. Datensicherheit: BSI TR-03161 als neue Nachweisgrundlage Seit mittlerweile drei Jahren haben Patient:innen die Möglichkeit, sogenannte „Apps auf Rezept“ verschrieben zu bekommen. Damit sie diese auch sicher nutzen können, müssen digitale Gesundheitsanwendungen (DiGA) die in der Digitale-Gesundheitsanwendungen-Verordnung (DiGAV) festgelegten Anforderungen an die IT-Sicherheit, den Datenschutz und die Datensicherheit erfüllen. Bisher legte der DiGA-Leitfaden in Bezug auf den Aspekt der Datensicherheit fest, dass die Erfüllung der Anforderungen gemäß §…
-
Neues Rechenzentrum der Deutschen Börse von TÜVIT erfolgreich zertifiziert
Als Betreiber von kritischen Infrastrukturen sind hochverfügbare Data Center für die Deutsche Börse von großer Bedeutung. Um eine einheitliche Grundlage zur Beurteilung ihrer Data Center zu gewährleisten, wurde TÜV Informationstechnik (TÜVIT) ausgewählt, den Neubau eines Rechenzentrums in der Rhein-Main-Region mit dem TSI-Standard zu auditieren. Trusted Site Infrastructure (TSI) ist eine seit 2001 etablierte Methodik zur Evaluierung und Zertifizierung der physischen Sicherheit und Verfügbarkeit von Rechenzentren. Grundlage bildet der durch TÜVIT (TÜV NORD GROUP) eigens entwickelte Kriterienkatalog TSI.STANDARD. Dieser genießt insbesondere im Finanzdienstleistungs- und Bankenumfeld eine sehr hohe Akzeptanz gegenüber den Regulierungs- bzw. Aufsichtsbehörden. Begleitung über den gesamten Entstehungsprozess Bereits zu Beginn des Projekts wurde die klare Zieldefinition „Zertifizierung nach TSI.STANDARD Level 3 sowie der…
-
Neues Digitalgesetz: Das Wichtigste im Überblick
Den Behandlungsalltag für Ärzt:innen sowie Patient:innen mithilfe digitaler Lösungen zu vereinfachen, darauf zielt das Gesetz zur Beschleunigung der Digitalisierung des Gesundheitswesens (Digital-Gesetz – DigiG) ab. Das Kernelement des neuen Gesetzes: Die elektronische Patientenakte (ePA) für alle ab 2025. Aber darüber hinaus enthält es noch weitere Neuerungen. Die Neuerungen in der Übersicht: Elektronische Patientenakte (ePA): Ab dem 15. Januar 2025 steht die elektronische Patientenakte allen gesetzlich Versicherten automatisch zur Verfügung – es sei denn, Patient:innen widersprechen der Einrichtung einer solchen Akte. Damit wird die ePA auf eine Opt-Out-Lösung umgestellt und eine flächendeckende Etablierung im Gesundheitswesen gewährleistet. Elektronisches Rezept: Das DigiG etabliert das E-Rezept als einen verbindlichen Standard in der Arzneimittelversorgung. Arztpraxen müssen entsprechend…
-
KI & Datenschutz – Wie passt das zusammen?
Künstliche Intelligenz entwickelt sich rasant weiter. In Bezug auf die Verarbeitung personenbezogener Daten wirft der Einsatz von KI-gestützten Systemen aber auch immer wieder datenschutzrechtliche Fragen auf. Angesichts des Europäischen Datenschutztages werfen wir einen Blick darauf, was Unternehmen in Sachen Datenschutz und KI unter anderem beachten sollten. Künstliche Intelligenz & die DSGVO Künstliche Intelligenz (KI) ist als Begriff innerhalb der Europäischen Datenschutz-Grundverordnung (EU-DSGVO) nicht explizit zu finden. Jedoch ist die DSGVO grundsätzlich so konzipiert, dass sie technologieneutral gilt und damit auch neuartige Technologien wie KI einschließt. Eröffnet wird der Geltungsbereich der DSGVO, sobald eine Technologie personenbezogene Daten – das heißt alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person…
-
TÜVIT zertifiziert Videosprechstundenlösung von Meedio
Mit Meedio hat TÜV Informationstechnik (TÜVIT) erfolgreich eine digitale Videokommunikations-lösung geprüft und zertifiziert, die branchenübergreifend einsetzbar ist. Durch das Zertifikat kann der Videodienstanbieter nun offiziell belegen, dass die Lösung höchste Anforderungen an Datenschutz sowie Informationssicherheit erfüllt. Steht ein vertrauliches Gespräch an, suchen die Beteiligten sich in der Regel einen geschützten Raum, um sicherzugehen, dass sie ungestört miteinander kommunizieren können. Was für die reale Welt selbstverständlich ist, sollte auch im World Wide Web nicht außer Acht gelassen werden. Dennoch greifen viele auf Videodienste zurück, die außerhalb der EU entwickelt wurden und die Anforderungen der Europäischen Datenschutz-Grundverordnung (EU-DSGVO) nicht erfüllen. Aus diesem Grund hat das Unternehmen Meedio es sich zum Ziel gesetzt,…
-
Aktualisierter DiGA-Leitfaden: Das sollten DiGA-Hersteller wissen
Seit Inkrafttreten des Digitale-Versorgung-Gesetzes (DVG) ist es Ärzt:innen und Psychotherapeut:innen möglich, sogenannte „Apps auf Rezept“ zu verschreiben. Vorher muss eine digitale Gesundheitsanwendung (DiGA) jedoch erfolgreich ein Prüfverfahren beim Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) durchlaufen haben. Der dazugehörige Leitfaden wurde am 11. Oktober aktualisiert und bringt in erster Linie Änderungen in Bezug auf Penetrationstests mit sich. Höhere Anforderungen an Penetrationstests & neue Fristen Die Revision des DiGA-Leitfadens fordert, dass Penetrationstest künftig vorrangig von BSI-zertifizierten Teststellen durchgeführt werden. Zudem sollen sie verpflichtend Code Reviews sowie Whitebox-Tests enthalten. Waren Pentests nach der Digitale-Gesundheitsanwendungen-Verordnung (DiGAV) bisher nur für DiGA mit erhöhtem Schutzbedarf vorgeschrieben, sind diese mit Inkrafttreten des Digitale-Versorgung-und-Pflege-Modernisierungs-Gesetz (DVPMG) für alle DiGA…
-
MANTRA5G: Neues Forschungsprojekt zwischen TÜVIT und Exceeding Solutions gestartet
Mit MANTRA5G entwickeln Exceeding Solutions und die TÜV Informationstechnik (TÜVIT) gemeinsam ein Testframework, das in Zukunft ein effizientes Prüfen von kritischen 5G-Mobilfunkkomponenten ermöglichen soll. Gefördert wird das Projekt durch das Bundesamt für Sicherheit in der Informationstechnik (BSI). 5G revolutioniert zunehmend den Mobilfunk und wird mehr und mehr Teil des alltäglichen Lebens. Damit kommt die fünfte Mobilfunkgeneration auch verstärkt in kritischen Infrastrukturen (KRITIS) zum Einsatz. Um diese bestmöglich vor Cyberangriffen zu schützen und das Vertrauen in die IT-Sicherheit von 5G-Mobilfunkkomponenten zu stärken, haben das 3rd Generation Partnership Project (3GPP) und die GSM Association (GSMA) das Bewertungsschema Network Equipment Security Assurance Scheme, kurz NESAS, entwickelt. Mit NESAS CCS-GI (Cybersecurity Certification Scheme – German…
