Damore und Perspective

Künstliche Intelligenz Hätte Googles Tool Perspectives den Google-Ingenieur Damore vor der Entlassung bewahren können?
Bei diesem Beitrag handelt es sich um ein Blog aus der Freitag-Community

Der folgende Text wurde nach einer Anregung von @Heinz und einer Kritik von @Aussie42 am 15. 8. 2017 an meinem Text "Chris und Diane" geschrieben. Hier unterhält sich James Damore, ein ehemaliger Google-Mitarbeiter, mit der unter anderem von Google entwickelten Selbstzensurhilfe, oder, je nach Anwendung, auch Zensurhilfe, Perspective. Diese Software wird von ihren Entwicklern so beschrieben: „We created an experiment using Perspective to illustrate when comments might be perceived as “toxic" by others.“.

Dazu muss man wissen, dass Damore für ein von ihm selbst nur Google-intern verbreitetes Memo mit dem Titel „Google’s Ideological Echo Chamber“ wegen „der Verbreitung von Gender-Stereotypen“ gefeuert wurde. Die Konfrontation von Passagen aus Damores Text und Perspective hat mehrere, aus meiner Sicht interessante Aspekte. Erstens testet es, wie Perspective Textpassagen einschätzt, die das Google-Management für so "toxisch" hielt, dass sie einen Ingenieur deswegen fristlos entlassen hat. Zweitens ist die Software Perspective selbst ein Beleg für das, was Damore in seinem Memo anspricht: die Konstruktion einer Echo-Kammer, eines selbstreferentiellen Systems, das keine abweichende Meinung mehr dulden will und sogar so weit geht, mit Techniken der künstlichen Intelligenz abweichende Meinungen ausmachen zu wollen. Drittens wirft die Existenz einer Software wie Perspective die Frage auf, was eigentlich die Software tut, die eine Suchabfrage an Google bearbeitet und die Ergebnisse sortiert (priorisiert). Diese Frage geht fast jeden an, weil fast jeder Google für Internet-Suchen benutzt (ich vertraue der Sortierung seit gestern Abend nicht mehr).

Leider muss ich hier Englisch und Deutsch mischen, weil jede Übersetzung von Damores Text in der aufgeheizten Stimmung als Verfälschung angesehen werden würde. Zudem ist Perspective ein englisch muttersprachliches KI-Produkt. Ich beschränke mich auf Passagen, die irgendeine Beziehung zu dem Vorwurf des Google CEO Sundar Pijai haben könnten, Damore habe Gender-Stereotype verbreitet.

On average, men and women biologically differ in many ways. These differences aren’t just socially constructed because: they’re universal across human cultures, they often have clear biological causes and links to prenatal testosterone. Biological males that were castrated at birth and raised as females often still identify and act like males. The underlying traits are highly heritable. They’re exactly what we would predict from an evolutionary psychology perspective.

10% wahrscheinlich, als “toxisch” angesehen zu werden.

Women, on average, have more: Openness directed towards feelings and aesthetics rather than ideas. Women generally also have a stronger interest in people rather than things, relative to men (also interpreted as empathizing vs. systemizing). These two differences in part explain why women relatively prefer jobs in social or artistic areas. More men may like coding because it requires systemizing and even within software engineering, comparatively more women work on front end, which deals with both people and aesthetics.

2% wahrscheinlich, als “toxisch” angesehen zu werden.

Women, on average, have more: Extraversion expressed as gregariousness rather than assertiveness. Also, higher agreeableness. This leads to women generally having a harder time negotiating salary, asking for raises, speaking up, and leading. Note that these are just average differences and there’s overlap between men and women, but this is seen solely as a women’s issue.

4% wahrscheinlich, als “toxisch” angesehen zu werden.

Women, on average, have more: Neuroticism (higher anxiety, lower stress tolerance). This may contribute to the higher levels of anxiety women report on Googlegeist and to the lower number of women in high stress jobs.

4% wahrscheinlich, als “toxisch” angesehen zu werden. Es handelt sich hier um die Passage, die von vielen, die sich am Kesseltreiben gegen Damore beteiligt haben, als die am meisten „toxische“ angesehen wurde. Ehe Ihre Alarmglocken läuten, liebe Leserin und lieber Leser, und Sie einen entsprechenden Kommentar schreiben, schauen Sie sich den Wikipedia-Eintrag zur Persönlichkeitseigenschaft Neurotizismus an. Ich habe einen Satz daraus, der diesmal nicht von Damore stammt, Perspective vorgelegt:

A 2013 review found that groups associated with higher levels of neuroticism are young adults who are at high risk for mood disorders and women.

3% wahrscheinlich, als “toxisch” angesehen zu werden. Nun wieder Damore:

Note that contrary to what a social constructionist would argue, research suggests that "greater nation-level gender equality leads to psychological dissimilarity in men’s and women’s personality traits." Because as “society becomes more prosperous and more egalitarian, innate dispositional differences between men and women have more space to develop and the gap that exists between men and women in their personality traits becomes wider.” We need to stop assuming that gender gaps imply sexism.

9% wahrscheinlich, als “toxisch” angesehen zu werden.

We need to stop assuming that gender gaps imply sexism.

Der Satz allein wird mit 35% Wahrscheinlichkeit als “toxisch” angesehen. Das ist der zweite Schlüsselsatz des Kesseltreibens.

Women on average show a higher interest in people and men in things.

8% wahrscheinlich, als “toxisch” angesehen zu werden.

Women on average are more cooperative.

4% wahrscheinlich, dass dieses doch eher nette Gender-Stereotyp als “toxisch” angesehen wird.

Women on average are more prone to anxiety.

Er wiederholt sich hier, allerdings in einem anderen Kontext, nämlich in Bezug auf die Frage, wie man das Arbeitsumfeld bei Google ändern müsste, um mehr Frauen in „Tech jobs“ zu bekommen. In dieser Form hat der Satz 25% Wahrscheinlichkeit, als toxisch angesehen zu werden.

Women on average look for more work-life balance ​ ​while men have a higher drive for status on average.

5% wahrscheinlich, als “toxisch” angesehen zu werden. Damore verlinkt in diesem Satz einen wissenschaftlichen Aufsatz einer Frau.

The male gender role is currently inflexible.

12% wahrscheinlich, als “toxisch” angesehen zu werden.

Philosophically, I don't think we should do arbitrary social engineering of tech just to make it appealing to equal portions of both men and women.

9% wahrscheinlich, als “toxisch” angesehen zu werden.

As with many things in life, gender differences are often a case of “grass being greener on the other side”; unfortunately, taxpayer and Google money is being spent to water only one side of the lawn.

4% wahrscheinlich, als “toxisch” angesehen zu werden.

As soon as we start to ​moralize an issue​, we stop thinking about it in terms of costs and benefits, dismiss anyone that disagrees as immoral, and harshly punish those we see as villains to protect the “victims.”

21% wahrscheinlich, als “toxisch” angesehen zu werden. Der Satz fällt zwar sicher nicht unter „Verbreitung von Gender-Stereotypen“, soll hier aber stehen, weil Google mit seiner Reaktion Damores Behauptung bewiesen hat.

Viewpoint diversity is arguably the most important type of diversity and political orientation is one of the most fundamental and significant ways in which people view things differently.

2% wahrscheinlich, als “toxisch” angesehen zu werden.

Stop restricting programs and classes to certain genders or races. These discriminatory practices are both unfair and divisive.

19% wahrscheinlich, als “toxisch” angesehen zu werden.

Once we acknowledge that not all differences are socially constructed or due to discrimination, we open our eyes to a more accurate view of the human condition which is necessary if we actually want to solve problems.

10% wahrscheinlich, als “toxisch” angesehen zu werden.

Und so weiter und so fort. Ich will Sie nicht langweilen. Was immer ich eingebe, mehr als 35% Toxizität erreiche ich nicht, also nie eine Mehrheit. Wenn Sie mehr Glück haben, geben Sie mir Bescheid.

Es gibt nur drei mögliche Schlussfolgerungen: Entweder ist Perspective noch sehr unausgereift oder sowohl der Shitstorm gegen Damore als auch seine Entlassung müssen einer künstlichen Intelligenz unverständlich bleiben. Natürlich kann auch beides zutreffen. Ich gebe aber gern zu, dass ich mit meiner natürlichen Intelligenz in diesem Falle der künstlichen Intelligenz auch nicht weiterhelfen könnte – oder wollte.

22:09 15.08.2017
Dieser Beitrag gibt die Meinung des Autors wieder, nicht notwendigerweise die der Redaktion des Freitag.
Geschrieben von

Gunnar Jeschke

Naturwissenschaftler, in der DDR aufgewachsen, gelebt in Schwarzheide, Dresden, Wako-shi (Japan), Bonn, Mainz, Konstanz und Zürich.
Avatar

Kommentare 6