How racial bias work-And How to disrupt it
00:04
Some years ago, I was on an airplane with my son who was just five years old at the time. My son was so excited about being on this airplane with Mommy. He's looking all around and he's checking things out and he's checking people out. And he sees this man, and he says, "Hey! That guy looks like Daddy!" And I look at the man, and he didn't look anything at all like my husband, nothing at all. And so then I start looking around on the plane, and I notice this man was the only black guy on the plane. And I thought, "Alright. I'm going to have to have a little talk with my son about how not all black people look alike." My son, he lifts his head up, and he says to me, "I hope he doesn't rob the plane." And I said, "What? What did you say?" And he says, "Well, I hope that man doesn't rob the plane." And I said, "Well, why would you say that? You know Daddy wouldn't rob a plane." And he says, "Yeah, yeah, yeah, well, I know." And I said, "Well, why would you say that?" And he looked at me with this really sad face, and he says, "I don't know why I said that. I don't know why I was thinking that."
Vài năm trước, tôi cùng với cậu con trai tôi lúc đó mới 5 tuổi đi máy bay. Con trai tôi rất hào hứng khi được đi trên chiếc máy bay này với Mẹ. Thằng bé đang nhìn xung quanh và nó đang kiểm tra mọi thứ và nó đang theo dõi mọi người ra vào. Và nó nhìn thấy người đàn ông này, và nó nói, "Mẹ nè! Người đó trông giống bố nhỉ!" Và tôi nhìn người đàn ông đó, và anh ta chẳng giống chồng tôi chút nào, chẳng giống gì cả. Và sau đó tôi bắt đầu nhìn quanh máy bay, và tôi nhận thấy người đàn ông này là người da đen duy nhất trên máy bay. Và tôi nghĩ, "Được rồi. Tôi sẽ phải nói chuyện một chút với con trai tôi về việc không phải người da đen nào cũng giống nhau." Con trai tôi, nó ngẩng đầu lên và nói với tôi, "Con hy vọng gã đó không cướp máy bay." Và tôi nói, "Cái gì? Con đã nói gì thế hả?" Và thằng bé trả lời, "Dạ, con chỉ hy vọng người đàn ông đó không cướp máy bay." Và tôi nói, "Chà, tại sao con lại nói như vậy? Con biết bố sẽ không cướp máy bay." Và thằng bé trả lời, "Vâng, vâng, vâng, con biết." Và tôi nói, "Chà, tại sao con lại nói như vậy?" Và nó ấy nhìn tôi với khuôn mặt thực sự buồn, và nói nói, "Con không biết tại sao con lại nói như vậy. Con không biết tại sao tôi lại nghĩ như vậy."
1:37
We are living with such severe racial stratification that even a five-year-old can tell us what's supposed to happen next, even with no evildoer, even with no explicit hatred. This association between blackness and crime made its way into the mind of my five-year-old. It makes its way into all of our children, into all of us. Our minds are shaped by the racial disparities we see out in the world and the narratives that help us to make sense of the disparities we see: "Those people are criminal." "Those people are violent." "Those people are to be feared."
Chúng ta đang sống với sự phân hóa chủng tộc nghiêm trọng đến mức ngay cả một đứa trẻ năm tuổi cũng có thể cho chúng ta biết điều gì sẽ xảy ra tiếp theo, ngay cả khi không có kẻ bất lương, thậm chí không có lòng căm thù rõ ràng. Mối liên hệ giữa sự đen đủi và tội ác đã xâm nhập vào tâm trí con năm tuổi của tôi. Nó xâm nhập vào tất cả trẻ em của chúng ta, vào tất cả chúng ta. Tâm trí của chúng ta được định hình bởi sự khác biệt về chủng tộc mà chúng ta thấy trên thế giới và những câu chuyện giúp chúng ta hiểu được sự khác biệt mà chúng ta thấy: "Những người đó là tội phạm." "Những người đó thật bạo lực." "Phải sợ hãi trước những người đó."
02:31
When my research team brought people into our lab and exposed them to faces, we found that exposure to black faces led them to see blurry images of guns with greater clarity and speed. Bias cannot only control what we see but where we look. We found that prompting people to think of violent crime can lead them to direct their eyes onto a black face and away from a white face. Prompting police officers to think of capturing and shooting and arresting leads their eyes to settle on black faces, too.
Khi nhóm nghiên cứu của tôi đưa mọi người vào phòng thí nghiệm của chúng tôi và cho họ tiếp xúc với khuôn mặt, chúng tôi nhận thấy rằng việc tiếp xúc với khuôn mặt đen khiến họ nhìn thấy hình ảnh mờ của súng với độ rõ nét và tốc độ cao hơn. Sự thiên vị không thể chỉ kiểm soát những gì chúng ta nhìn thấy, mà còn là nơi chúng ta nhìn. Chúng tôi nhận thấy rằng việc khiến mọi người nghĩ đến tội phạm bạo lực có thể khiến họ hướng mắt vào khuôn mặt đen chứ không phải khuôn mặt trắng. Việc nhắc nhở các nhân viên cảnh sát nghĩ đến việc bắt, bắn và bắt giữ khiến đôi mắt của họ cũng phải chăm chăm vào khuôn mặt đen.
03:11
Bias can infect every aspect of our criminal justice system. In a large data set of death-eligible defendants, we found that looking more black more than doubled their chances of receiving a death sentence -- at least when their victims were white. This effect is significant, even though we controlled for the severity of the crime and the defendant's attractiveness. And no matter what we controlled for, we found that black people were punished in proportion to the blackness of their physical features: the more black, the more death-worthy.
Sự thiên vị có thể ảnh hưởng tới mọi khía cạnh của hệ thống tư pháp hình sự của chúng ta. Trong một tập hợp dữ liệu lớn về các bị cáo đủ điều kiện tử hình, chúng tôi nhận thấy rằng trông càng da đen càng tăng gấp đôi cơ hội nhận án tử hình của họ - ít nhất là khi nạn nhân của họ là người da trắng. Hiệu ứng này là đáng kể, mặc dù chúng tôi đã kiểm soát mức độ nghiêm trọng của tội phạm và mức độ ngoại hình của bị cáo. Và bất kể chúng tôi kiểm soát để làm gì, chúng tôi thấy rằng người da đen bị trừng phạt tương ứng với độ đen của các đặc điểm ngoại hình của họ: càng đen, càng đáng chết.
03:50
Bias can also influence how teachers discipline students. My colleagues and I have found that teachers express a desire to discipline a black middle school student more harshly than a white student for the same repeated infractions. In a recent study, we're finding that teachers treat black students as a group but white students as individuals. If, for example, one black student misbehaves and then a different black student misbehaves a few days later, the teacher responds to that second black student as if he had misbehaved twice. It's as though the sins of one child get piled onto the other.
Sự thiên vị cũng có thể ảnh hưởng đến cách giáo viên kỷ luật học sinh. Các đồng nghiệp của tôi và tôi đã phát hiện ra rằng các giáo viên bày tỏ mong muốn kỷ luật một học sinh trung học cơ sở da đen khắc nghiệt hơn một học sinh da trắng vì cùng một hành vi vi phạm lặp đi lặp lại. Trong một nghiên cứu gần đây, chúng tôi thấy rằng giáo viên coi học sinh da đen như một nhóm nhưng học sinh da trắng là cá nhân. Ví dụ, nếu một học sinh da đen cư xử sai và sau đó một học sinh da đen khác cư xử sai vài ngày sau đó, giáo viên sẽ phản ứng lại học sinh da đen thứ hai đó như thể anh ta đã cư xử sai hai lần. Cứ như thể tội lỗi của đứa trẻ này chồng chất lên nhau.
04:35
We create categories to make sense of the world, to assert some control and coherence to the stimuli that we're constantly being bombarded with. Categorization and the bias that it seeds allow our brains to make judgments more quickly and efficiently, and we do this by instinctively relying on patterns that seem predictable. Yet, just as the categories we create allow us to make quick decisions, they also reinforce bias. So the very things that help us to see the world also can blind us to it. They render our choices effortless, friction-free. Yet they exact a heavy toll.
Chúng tôi tạo ra các danh mục để hiểu thế giới, để khẳng định một số khả năng kiểm soát và gắn kết với những kích thích mà chúng tôi thường xuyên bị tấn công. Phân loại và thành kiến mà nó gieo rắc cho phép bộ não của chúng ta đưa ra phán đoán nhanh hơn và hiệu quả hơn, và chúng ta làm điều này bằng cách dựa vào bản năng các mẫu có vẻ có thể dự đoán được. Tuy nhiên, cũng như các danh mục chúng tôi tạo cho phép chúng tôi đưa ra quyết định nhanh chóng, chúng cũng củng cố sự thiên vị. Vì vậy, chính những thứ giúp chúng ta nhìn ra thế giới cũng có thể khiến chúng ta mù quáng trước nó. Chúng đưa ra lựa chọn của chúng tôi dễ dàng, không đắn đo.
05:25
So what can we do? We are all vulnerable to bias, but we don't act on bias all the time. There are certain conditions that can bring bias alive and other conditions that can muffle it.
Vậy chúng ta có thể làm gì? Tất cả chúng ta đều dễ bị thiên vị, nhưng chúng ta không phải lúc nào cũng hành động theo thiên vị. Có một số điều kiện nhất định có thể làm cho sự thiên vị tồn tại và các điều kiện khác có thể bóp nghẹt nó.
05:39
Let me give you an example. Many people are familiar with the tech company Nextdoor. So, their whole purpose is to create stronger, healthier, safer neighborhoods. And so they offer this online space where neighbors can gather and share information. Yet, Nextdoor soon found that they had a problem with racial profiling. In the typical case, people would look outside their window and see a black man in their otherwise white neighborhood and make the snap judgment that he was up to no good, even when there was no evidence of criminal wrongdoing. In many ways, how we behave online is a reflection of how we behave in the world. But what we don't want to do is create an easy-to-use system that can amplify bias and deepen racial disparities, rather than dismantling them.
Để tôi lấy một ví dụ. Nhiều người đã quen thuộc với công ty công nghệ Nextdoor. Vì vậy, toàn bộ mục đích của họ là tạo ra những khu dân cư mạnh mẽ hơn, lành mạnh hơn, an toàn hơn. Và do đó, họ cung cấp không gian trực tuyến này, nơi những người hàng xóm có thể thu thập và chia sẻ thông tin. Tuy nhiên, Nextdoor nhanh chóng phát hiện ra rằng họ có vấn đề với việc lập hồ sơ chủng tộc. Trong trường hợp điển hình, mọi người sẽ nhìn ra bên ngoài cửa sổ của họ và thấy một người đàn ông da đen trong khu dân cư da trắng của họ và đưa ra phán đoán nhanh rằng anh ta là người vô ích, ngay cả khi không có bằng chứng về hành vi phạm tội. Theo nhiều cách, cách chúng ta cư xử trực tuyến phản ánh cách chúng ta cư xử trên thế giới. Nhưng những gì chúng tôi không muốn làm là tạo ra một hệ thống dễ sử dụng có thể khuếch đại thành kiến và làm sâu sắc thêm sự chênh lệch chủng tộc, thay vì phá bỏ chúng.
06:42
So the cofounder of Nextdoor reached out to me and to others to try to figure out what to do. And they realized that to curb racial profiling on the platform, they were going to have to add friction; that is, they were going to have to slow people down. So Nextdoor had a choice to make, and against every impulse, they decided to add friction. And they did this by adding a simple checklist. There were three items on it. First, they asked users to pause and think, "What was this person doing that made him suspicious?" The category "black man" is not grounds for suspicion. Second, they asked users to describe the person's physical features, not simply their race and gender. Third, they realized that a lot of people didn't seem to know what racial profiling was, nor that they were engaging in it. So Nextdoor provided them with a definition and told them that it was strictly prohibited. Most of you have seen those signs in airports and in metro stations, "If you see something, say something." Nextdoor tried modifying this. "If you see something suspicious, say something specific." And using this strategy, by simply slowing people down, Nextdoor was able to curb racial profiling by 75 percent.
Vì vậy, người đồng sáng lập Nextdoor đã liên hệ với tôi và những người khác để cố gắng tìm ra những gì cần làm. Và họ nhận ra rằng để hạn chế việc phân biệt chủng tộc trên nền tảng, họ sẽ phải thêm ma sát; nghĩa là, họ sẽ phải làm mọi người chậm lại. Vì vậy, Nextdoor đã có một lựa chọn để thực hiện, và chống lại mọi sự thôi thúc, họ quyết định tăng cường thêm sự do dự. Và họ đã làm điều này bằng cách thêm một danh sách kiểm tra đơn giản. Có ba mục trên đó. Đầu tiên, họ yêu cầu người dùng tạm dừng và suy nghĩ, "Người này đã làm gì khiến anh ta nghi ngờ?" Danh mục "người da đen" không phải là căn cứ để nghi ngờ. Thứ hai, họ yêu cầu người dùng mô tả các đặc điểm ngoại hình của người đó, không chỉ đơn giản là chủng tộc và giới tính của họ. Thứ ba, họ nhận ra rằng nhiều người dường như không biết hồ sơ chủng tộc là gì, cũng như họ không tham gia vào nó. Vì vậy Nextdoor đã cung cấp cho họ một định nghĩa và nói với họ rằng điều đó bị nghiêm cấm. Hầu hết các bạn đã nhìn thấy những biển báo đó ở sân bay và ga tàu điện ngầm, "Nếu bạn nhìn thấy điều gì đó, hãy nói điều gì đó." Nextdoor đã thử sửa đổi điều này. "Nếu bạn thấy điều gì đó đáng ngờ, hãy nói điều gì đó cụ thể." Và bằng cách sử dụng chiến lược này, chỉ cần làm mọi người chậm lại, Nextdoor đã có thể hạn chế 75% sự phân biệt chủng tộc.
08:14
Now, people often will say to me, "You can't add friction in every situation, in every context, and especially for people who make split-second decisions all the time." But it turns out we can add friction to more situations than we think. Working with the Oakland Police Department in California, I and a number of my colleagues were able to help the department to reduce the number of stops they made of people who were not committing any serious crimes. And we did this by pushing officers to ask themselves a question before each and every stop they made: "Is this stop intelligence-led, yes or no?" In other words, do I have prior information to tie this particular person to a specific crime? By adding that question to the form officers complete during a stop, they slow down, they pause, they think, "Why am I considering pulling this person over?"
Bây giờ, mọi người thường nói với tôi, "Bạn không thể tạo thêm do dự trong mọi tình huống, trong mọi bối cảnh, và đặc biệt là đối với những người luôn đưa ra quyết định trong tích tắc." Nhưng hóa ra chúng ta có thể do dự nhiều hơn đối với nhiều tình huống hơn chúng ta nghĩ. Làm việc với Sở Cảnh sát Oakland ở California, tôi và một số đồng nghiệp của tôi đã có thể giúp sở giảm số lần dừng xe đối với những người không phạm bất kỳ tội nghiêm trọng nào. Và chúng tôi đã làm điều này bằng cách thúc đẩy các sĩ quan tự đặt câu hỏi cho mình trước mỗi điểm dừng mà họ thực hiện: "Đây có phải là điểm dừng do tình báo dẫn đầu, có hay không?" Nói cách khác, tôi có thông tin trước để buộc người cụ thể này vào một tội danh cụ thể không? Bằng cách thêm câu hỏi đó vào các nhân viên biểu mẫu hoàn thành trong khi dừng xe, họ giảm tốc độ, họ dừng lại, họ nghĩ, "Tại sao tôi lại cân nhắc kéo người này qua?"
09:20
In 2017, before we added that intelligence-led question to the form, officers made about 32,000 stops across the city. In that next year, with the addition of this question, that fell to 19,000 stops. African-American stops alone fell by 43 percent. And stopping fewer black people did not make the city any more dangerous. In fact, the crime rate continued to fall, and the city became safer for everybody.
Vào năm 2017, trước khi chúng tôi thêm câu hỏi do thông tin tình báo dẫn dắt vào biểu mẫu, các sĩ quan đã thực hiện khoảng 32.000 điểm dừng trên toàn thành phố. Trong năm tiếp theo, với việc bổ sung câu hỏi này, con số đó đã giảm xuống còn 19.000 điểm dừng. Riêng điểm dừng của người Mỹ gốc Phi đã giảm 43%. Và việc ngăn chặn ít người da đen hơn không khiến thành phố trở nên nguy hiểm hơn. Trên thực tế, tỷ lệ tội phạm tiếp tục giảm, và thành phố trở nên an toàn hơn cho mọi người.
09:53
So one solution can come from reducing the number of unnecessary stops. Another can come from improving the quality of the stops officers do make. And technology can help us here. We all know about George Floyd's death, because those who tried to come to his aid held cell phone cameras to record that horrific, fatal encounter with the police. But we have all sorts of technology that we're not putting to good use. Police departments across the country are now required to wear body-worn cameras so we have recordings of not only the most extreme and horrific encounters but of everyday interactions.
Vì vậy, một giải pháp có thể đến từ việc giảm số lượng các điểm dừng không cần thiết. Một điều khác có thể đến từ việc cải thiện chất lượng của các điểm dừng mà các nhân viên thực hiện. Và công nghệ có thể giúp chúng ta ở đây. Tất cả chúng ta đều biết về cái chết của George Floyd, bởi vì những người cố gắng giúp đỡ anh ta đều cầm máy ảnh điện thoại để ghi lại cuộc chạm trán kinh hoàng, chết chóc đó với cảnh sát. Nhưng chúng tôi có tất cả các loại công nghệ mà chúng tôi không đưa vào sử dụng. Các sở cảnh sát trên khắp đất nước hiện được yêu cầu đeo máy ảnh đeo trên người để chúng tôi có những đoạn ghi lại không chỉ những cuộc chạm trán khủng khiếp và khắc nghiệt nhất mà còn về những tương tác hàng ngày.
10:42
With an interdisciplinary team at Stanford, we've begun to use machine learning techniques to analyze large numbers of encounters. This is to better understand what happens in routine traffic stops. What we found was that even when police officers are behaving professionally, they speak to black drivers less respectfully than white drivers. In fact, from the words officers use alone, we could predict whether they were talking to a black driver or a white driver.
Với một nhóm liên ngành tại Stanford, chúng tôi đã bắt đầu sử dụng các kỹ thuật máy học để phân tích số lượng lớn các cuộc gặp gỡ. Điều này là để hiểu rõ hơn những gì xảy ra ở các điểm dừng giao thông thông thường. Những gì chúng tôi nhận thấy là ngay cả khi các nhân viên cảnh sát hành xử chuyên nghiệp, họ nói chuyện với người lái xe da đen ít tôn trọng hơn người lái xe da trắng. Trên thực tế, chỉ từ những từ mà cảnh sát sử dụng, chúng ta có thể đoán được họ đang nói chuyện với người lái xe da đen hay người lái xe da trắng.
11:16
The problem is that the vast majority of the footage from these cameras is not used by police departments to understand what's going on on the street or to train officers. And that's a shame. How does a routine stop turn into a deadly encounter? How did this happen in George Floyd's case? How did it happen in others?
Vấn đề là phần lớn các cảnh quay từ các camera này không được sở cảnh sát sử dụng để hiểu những gì đang diễn ra trên đường phố hoặc để đào tạo các sĩ quan. Và đó là một điều xấu hổ. Làm thế nào để một cuộc dừng thường lệ biến thành một cuộc gặp gỡ chết người? Làm thế nào điều này xảy ra trong trường hợp của George Floyd? Làm thế nào điều đó xảy ra đối với những người khác?
11:43
When my eldest son was 16 years old, he discovered that when white people look at him, they feel fear. Elevators are the worst, he said. When those doors close, people are trapped in this tiny space with someone they have been taught to associate with danger. My son senses their discomfort, and he smiles to put them at ease, to calm their fears. When he speaks, their bodies relax. They breathe easier. They take pleasure in his cadence, his diction, his word choice. He sounds like one of them. I used to think that my son was a natural extrovert like his father. But I realized at that moment, in that conversation, that his smile was not a sign that he wanted to connect with would-be strangers. It was a talisman he used to protect himself, a survival skill he had honed over thousands of elevator rides. He was learning to accommodate the tension that his skin color generated and that put his own life at risk.
Khi con trai lớn của tôi 16 tuổi, nó phát hiện ra rằng khi những người da trắng nhìn nó, họ cảm thấy sợ hãi. Ông nói, thang máy là thứ tồi tệ nhất. Khi những cánh cửa đó đóng lại, mọi người bị mắc kẹt trong không gian nhỏ bé này với một người mà họ đã được dạy quen với nguy hiểm. Con trai tôi cảm nhận được sự khó chịu của họ, và nó mỉm cười để giúp họ thoải mái, xoa dịu nỗi sợ hãi của họ. Khi nó nói chuyện, họ thoải mái hẳn. Họ thở phào. Họ thích thú với nhịp điệu của nó, hành động của nó, sự lựa chọn từ ngữ của nó. Thằng bé giống như một trong số họ. Tôi đã từng nghĩ rằng con trai tôi là một người hướng ngoại bẩm sinh giống như cha của nó. Nhưng tôi nhận ra ngay lúc đó, trong cuộc trò chuyện đó, nụ cười của nó không phải là dấu hiệu cho thấy thằng bé muốn kết nối với những người xa lạ. Đó là lá bùa hộ mệnh nó dùng để bảo vệ bản thân, một kỹ năng sinh tồn mà nó đã rèn giũa qua hàng nghìn lần đi thang máy. Thằng bé đang học cách thích nghi với sự căng thẳng mà màu da của nó tạo ra và điều đó khiến cuộc sống của chính nó gặp nguy hiểm.
13:06
We know that the brain is wired for bias, and one way to interrupt that bias is to pause and to reflect on the evidence of our assumptions. So we need to ask ourselves: What assumptions do we bring when we step onto an elevator? Or an airplane? How do we make ourselves aware of our own unconscious bias? Who do those assumptions keep safe? Who do they put at risk? Until we ask these questions and insist that our schools and our courts and our police departments and every institution do the same, we will continue to allow bias to blind us. And if we do, none of us are truly safe.
Chúng ta biết rằng bộ não có chỗ cho sự thiên vị, và một cách để ngăn chặn sự thiên vị đó là tạm dừng và suy ngẫm về bằng chứng về những giả định của chúng ta. Vì vậy, chúng ta cần tự hỏi bản thân: Chúng ta mang đến những giả định gì khi bước lên thang máy? Hay một chiếc máy bay? Làm thế nào để chúng ta nhận thức được thành kiến vô thức của chính mình? Những giả định đó giữ an toàn cho ai? Ai là người họ phải chịu rủi ro? Cho đến khi chúng ta hỏi những câu hỏi này và nhấn mạnh rằng trường học và tòa án của chúng ta, sở cảnh sát của chúng ta và mọi cơ quan của chúng ta làm như vậy, chúng ta sẽ tiếp tục cho phép sự thiên vị làm mù quáng chúng ta. Và nếu chúng ta làm vậy, không ai trong chúng ta thực sự an toàn.
14:05
Thank you.
Theo: Ted.com
.jpg)