Infreemation

De Veiligheid van de computer en de Menselijke Factor

Ik las onlangs De menselijke Factor door techniekprofessor Kim Vincente. Dit is een oog-openend boek over het belang om „technologie aan mensen“ in plaats van „dwingende mensen aan te passen om aan technologie aan te passen.“ Het gebied van de Techniek van de Menselijke Factor is blijkbaar rond voor enkele ogenblikken geweest, maar nooit de maatschappij in grotere behoefte van het gehad: dank aan personal computers en Internet de meeste mensen ken ik dagelijks overeenkomst met technologie die er niet in slaagt om menselijke aard te erkennen.

Technologie voor het Belang van de Technologie

Kim zegt de technologie te complex is gegroeid omdat „de technologietovenaars“ om voor mensen als zich of omwille van de technologie zelf neigen te ontwerpen, en omdat er een cultuur van reductionism in wetenschap is die neigt om ontwerp van bottom up goed te keuren zonder de optredende eigenschappen van het systeem te begrijpen wanneer alle componenten worden aangesloten. Beiden sloegen snaren met me: als wetenschapper die ik heb geprobeerd om tegen het reductionistgetijde, en als netwerk en softwareingenieur te zwemmen ik ernaar streef dagelijks te overwegen „laag 8 ″ van netwerk: de gebruiker.

De Analyse van systemen

Het voorrang geven aan systemen analyse in een wereld van goedkope (en vrij efficiënte) reductionism is niet gemakkelijk verkopen. Het is ingewikkeld en duur, het vereisen van zorgvuldige studie, het testen en toezicht op interactie en onderlinge afhankelijkheid. Waar dan bent u waarschijnlijke vondst dergelijke benaderingen? Typisch wanneer het verlies van het menselijke leven het gevolg van mislukking is. Van bijzonder belang in Kim was het boek zijn tegenover elkaar stellende gevallenanalyses over luchtvaart en de medische verslagen van de de industrieveiligheid.

Wanneer de Dood op de Lijn is

Er was blijkbaar een tijd toen het nemen van het vliegtuig was niet veiliger dan drijvend. Volgens Kim, omhoog tot het midden van de jaren '70 „FAA was gelijktijdig de oorzaak van het ontvangen van informatie over dichtbijgelegen juffrouwen, en het berispen van mensen en organisaties toen zij.“ zich verknoeiden Duidelijk werden heel wat werkelijk ernstige kwesties gemelde wegens de potentiële aansprakelijkheid niet in kwestie, en vaak zouden de problemen niet aangepakt worden tot er een ongeval was. Het verlies van het leven in luchtvaart is hoog profiel en kan u snel verliezen klanten. Duidelijk was deze situatie onhoudbaar voor de industrie en uiteindelijk werkte FAA met NASA samen resulterend in de Veiligheid van de Luchtvaart Meldend Systeem dat (ASRS) toestaat het privé melden van incidenten. De details zijn allen in het boek dat ik u hier aanmoedig om te lezen maar ben wat schijnt om het systeem te maken werken:
1) vrijwillig
2) vertrouwelijk
3) nietbestraffend
4) onafhankelijk
Het kost $2 miljoen jaarlijks, behandelt incidenten @40,000, en er is blijkbaar NOOIT een schending van vertrouwelijkheid van de rapporten geweest! En dankzij ASRS in groot deel, is de luchtvaart veel veiliger dan het in de jaren '70 was.

… De Kwesties van de cultuur

Kim also studies US hospitals where 44,000-98,000 people die yearly from preventable causes. This horrific situation doesn’t seem to get attention proportional to this statistic and does not seem to be improving fast. Taking responsibility for one’s actions is central to the culture of medecine and you would think this would be a recipe for excellence. Yet fear of reprimand, job loss, loss of reputation, and the highly litigious US medical environment are incentives against reporting incidents and accidents. Conspiracies of imperfect technology, ridiculously long shifts, and these more complex social issues act as an “invisible hand” that guides the system to generate more mistakes. Kim argues valiantly that the medical system stands to gain a lot from human factor engineering and provides some excellent examples.

Have a Safe Compute!

It seems like everyone can benefit from reading what Kim has to say and applying it to their fields. I certainly want to try. I want to follow up on a conversation I had with Adam.

Embracing internet use is a cost of entry, albeit quite low at first glance, to doing business in today’s world. The true cost of computing on the internet is probably quite high if the risks are properly accounted for however this is a difficult task, you would know if you ever tried to get a security budget approved! Adam assures me this is an unsolved problem because many or most computer security incidents go unreported (if anyone has any estimates please let me know and I will link to them here) leading to a lack of data with which to assess risk.

This reminded me of the problems Kim discussed in aviation and medecine, since the major reason we don’t know more about security breaches is that there are penalties for disclosure:
-security staff may face reprimand or loss of job and reputation
-an organization won’t risk publishing forensic analysis of incursions and results of security audits for obvious reasons
-companies don’t want to admit the financial damages caused by security breaches to their shareholders and show weakness to the market

Can a CSRS help us design more secure products?

Would it be possible to have an effective “Computer Security Reporting System”? Would a non-profit organization, properly funded, be able to collect accurate data and produce meaningful reports and recommendations for industry architects and CIOs alike? Could they protect the identities of participants and the information that belongs to them? Would we be able to generate key cost information from this data that would serve to educate while helping build better products and security budgets? Has this already been done and does it meet the aforementioned key criteria? I found something here, but government related agencies don’t seem to meet the “independent” criterion.

Perhaps it is not feasible to have a CSRS:
1) too many players and technologies involved
2) security, while expensive, is not usually “life and death”
3) too big a problem - too expensive to be cost effective

I’m not a security insider so I will “ask the audience” on this one. I know you’re out there!