Магистратура / Текст Interview with computer scientist Kenneth Co и перевод

Interview with computer scientist Kenneth Co

Интервью с компьютерным учёным Кеннетом Ко

Tell us about yourself — what’s your story and what are you studying?

Расскажите нам о себе — какова ваша история и что вы изучаете?

Back in high school (I studied at the Philippine Science High School - Main Campus), I was active in competitive mathematics both locally and internationally, having competed in the International Math Olympiad (IMO). This led me to pursue a combined BA/MA degree in Mathematics at Johns Hopkins University in Baltimore, Maryland, USA. As I got deeper into my studies, my interests shifted to the applied side of math like Computing (computer science). I decided to take up further studies with an MSc in Computing at Imperial College London (ICL). 

В старших классах школы (я учился в Филиппинской научной школе - главный кампус) я активно участвовал в соревнованиях по математике как на местном, так и на международном уровне, участвуя в Международной математической олимпиаде (IMO). Это побудило меня получить комбинированную степень бакалавра и магистра по математике в Университете Джонса Хопкинса в Балтиморе, штат Мэриленд, США. По мере углубления в учёбу мои интересы сместились в сторону прикладной математики, например, вычислительной техники (компьютерных наук). Я решил продолжить обучение, получив степень магистра по вычислительной технике в Имперском колледже Лондона (ICL).

Initially, I intended to only stay in ICL for a year before moving on to other work. However, the research component of my MSc went very well and I got along with my supervisor, so I decided to pursue a PhD. For my PhD, I focused on Adversarial Machine Learning – the field that studies the security and privacy of machine learning algorithms.

Изначально я планировал проработать в ICL всего год, а затем перейти к другой работе. Однако исследовательская часть моей магистерской программы прошла очень хорошо, и я нашёл общий язык с руководителем, поэтому решил продолжить обучение в докторантуре. В докторантуре я сосредоточился на состязательном машинном обучении — области, изучающей безопасность и конфиденциальность алгоритмов машинного обучения.

Much of my work is based on computer vision, which is used in object and face recognition, autonomous driving, biomedical imaging, and the like. Computer vision itself has so many applications that it is a vast field of research. The security aspects I explore primarily concern Adversarial Examples – seemingly benign-looking images that were designed to fool the machine learning algorithms. This is quite dangerous if, for example, you have an algorithm that automatically filters acceptable or unacceptable images and videos. You can use Adversarial Examples to alter the images/videos and trick the filter into letting through malicious content or to trick it to block benign content, thus disrupting the service. Another interesting aspect of machine learning security comes in privacy where these algorithms memorise the data given to them. This is a violation of data privacy as this information can often be extracted using certain techniques. These present a high-level view of my research, and you can imagine that these aspects of security and privacy extend beyond computer vision to other data types like sound, speech, and text.

Значительная часть моей работы основана на компьютерном зрении, которое используется для распознавания объектов и лиц, автономного вождения, биомедицинской визуализации и т.д. Само компьютерное зрение имеет так много применений, что представляет собой обширную область исследований. Аспекты безопасности, которые я изучаю, в основном касаются состязательных примеров – на первый взгляд безобидных изображений, разработанных для обмана алгоритмов машинного обучения. Это довольно опасно, например, если у вас есть алгоритм, который автоматически фильтрует приемлемые или неприемлемые изображения и видео. Вы можете использовать состязательные примеры, чтобы изменить изображения/видео и обмануть фильтр, пропуская вредоносный контент или блокируя безопасный контент, тем самым нарушая работу сервиса. Другой интересный аспект безопасности машинного обучения связан с конфиденциальностью, поскольку эти алгоритмы запоминают предоставленные им данные. Это нарушение конфиденциальности данных, поскольку эту информацию часто можно извлечь с помощью определённых методов. Они представляют собой общее представление о моих исследованиях, и вы можете представить, что эти аспекты безопасности и конфиденциальности выходят за рамки компьютерного зрения и распространяются на другие типы данных, такие как звук, речь и текст.

For more examples, you can see my code on GitHub: (1 ) (2 )

Больше примеров вы можете увидеть в моем коде на GitHub: (1 ) (2 )

Why did you choose the UK as a study destination?

Почему вы выбрали Великобританию в качестве страны обучения?

Initially, it was for the silliest reason—I found out that a master’s degree in the UK is typically only one year, and I didn’t want to study for too long again, so I thought it was a great opportunity! It is a bit ironic that I later decided to pursue a PhD. A lot of the appeal was also in the City of London where the university was located. From my previous experiences, I found that I preferred a city-type setting where it was easier to get around and there were always things to do. And being where it is, London is where many of the best researchers in the UK and Europe gather.

Поначалу причина была совершенно глупая: я узнал, что магистратура в Великобритании обычно длится всего год, и мне не хотелось учиться слишком долго, поэтому я подумал, что это отличная возможность! Довольно иронично, что позже я решил получить докторскую степень. Меня также привлекал лондонский Сити, где находился университет. Исходя из своего предыдущего опыта, я понял, что мне больше по душе городская обстановка, где легче передвигаться и всегда есть чем заняться. А благодаря своему расположению, Лондон – это место, где собираются многие из лучших исследователей Великобритании и Европы.

What draw you to the field of computing, particularly in machine learning?

Что привлекает вас в сфере вычислительной техники, в частности в машинном обучении?

Coming from a mathematics background, I became interested in applying what I’ve learned in more tangible ways. Computing (computer science) seemed like a natural step forward. Previously, the logic behind a lot of automation was done with conditional or rules-based code (e.g., if X then do Y). This method is easy if the data you work with is relatively simple (e.g. if the price is less than 100, then buy). However, as the data becomes more complex (e.g. multivariable financial data with time components), it becomes more difficult for algorithms to keep up if you only use conditional statements or rules.

Имея за плечами математическое образование, я заинтересовался применением полученных знаний в более конкретных формах. Вычислительная техника (компьютерные науки) казалась естественным шагом вперёд. Раньше логика автоматизации во многом реализовывалась с помощью условного кода или кода, основанного на правилах (например, если X, то Y). Этот метод прост, если данные относительно просты (например, если цена меньше 100, то покупаем). Однако по мере усложнения данных (например, многопараметрические финансовые данные с временными компонентами) алгоритмам становится всё сложнее справляться с ними, если вы используете только условные операторы или правила.

The nice thing about machine learning is that you give it a set of inputs, and instruct the algorithm to match those inputs with the correct outputs. The core learning algorithm then learns internal parameters so it matches the correct solution as best as it can, given the inputs. So now you can do predictions or classifications on more complex data without having to tell any specific rules; you just need to have the data (loosely speaking). Many of these learning algorithms are mathematical, so these were still familiar to me, and it was nice to see the results when moving from designing the algorithm to the application in practice. 

Преимущество машинного обучения заключается в том, что вы даёте ему набор входных данных и указываете алгоритму сопоставить эти входные данные с правильными выходными данными. Затем основной алгоритм обучения изучает внутренние параметры, чтобы максимально точно подобрать правильное решение с учётом входных данных. Таким образом, теперь можно делать прогнозы или классифицировать данные на более сложных данных, не задавая конкретных правил; достаточно лишь самих данных (если говорить упрощенно). Многие из этих алгоритмов обучения математические, поэтому они были мне знакомы, и было приятно увидеть результаты, переходя от разработки алгоритма к его практическому применению.

What role or impact do you think will computing (and science and technology in general) and computer scientists like you play in the promotion of peace and maintenance of security?

Какую роль или влияние, по вашему мнению, сыграют вычислительная техника (и наука и технологии в целом), а также такие специалисты по информатике, как вы, в укреплении мира и поддержании безопасности?

Computing currently plays a huge role in modern science and technology. It is the backbone of our technology infrastructure, and things like machine learning and artificial intelligence drive a lot of innovation. It’s difficult to talk about technology without mentioning the impact that social media and the wider internet has had on the distribution and consumption of information. After all, technology is a lever that can amplify many great and not-so-great things. As scientists, we are working better to understand not just the technical aspects, but also the ethical implications of the technologies that we design, as these can become very powerful tools for maintaining peace and improving the lives of people. 

В настоящее время вычислительная техника играет огромную роль в современной науке и технологиях. Она является основой нашей технологической инфраструктуры, а такие вещи, как машинное обучение и искусственный интеллект, стимулируют множество инноваций. Сложно говорить о технологиях, не упоминая влияние социальных сетей и интернета в целом на распространение и потребление информации. В конце концов, технологии – это рычаг, способный усилить многие важные и не очень вещи. Как учёные, мы стремимся лучше понимать не только технические аспекты, но и этические последствия разрабатываемых нами технологий, поскольку они могут стать мощными инструментами для поддержания мира и улучшения жизни людей.

From the cybersecurity point of view, what's important for us to raise awareness of best practices and common threats to the public. The latter would include phishing scams, social engineering attacks, faults in the machine learning algorithms, and misinformation. Highlighting these threats would go a long way in making people vigilant and maintaining security.

С точки зрения кибербезопасности, для нас важно повышать осведомлённость общественности о передовых практиках и распространённых угрозах. К последним относятся фишинговые атаки, атаки с использованием социальной инженерии, сбои в алгоритмах машинного обучения и дезинформация. Привлечение внимания к этим угрозам будет иметь большое значение для повышения бдительности и поддержания безопасности.

What has been the most exciting part of your experience studying and living in the UK?

Что было самым захватывающим в вашем опыте учебы и жизни в Великобритании?

For my field of research, it was exciting since I was able to attend the top machine learning and cybersecurity conferences as well as meet with the leading people in the field all within the UK. Not to mention, I’ve met many great people in London from all kinds of different backgrounds. I appreciated the diversity in cultures and open exchange of ideas in the UK. I’m also a bit of a foodie, so London, in particular, was really great because of the diverse range of cuisines and good food choices!

Для моей исследовательской области это было очень интересно, поскольку я смог посетить ведущие конференции по машинному обучению и кибербезопасности, а также встретиться с ведущими специалистами в этой области по всей Великобритании. Не говоря уже о том, что в Лондоне я встретил много замечательных людей из самых разных сфер. Мне понравилось культурное разнообразие и открытый обмен идеями в Великобритании. Я также немного гурман, поэтому Лондон, в частности, был действительно великолепен благодаря разнообразию кухонь и хорошему выбору еды!

What advice would you give to Filipinos who aspire to pursue an advanced degree in computing in the UK?

Какой совет вы бы дали филиппинцам, которые стремятся получить ученую степень в области вычислительной техники в Великобритании?

It is useful to think of what you’re studying (or plan to study) in the context of the problems it can solve. Sometimes we can focus too much on the academic or technical side of the work that we lose sight of what makes it valuable in practice. A lot of funding in the UK is based on projects and research grants geared towards achieving specific goals or solving specific problems, so when finding potential mentors or research groups, it is to your advantage if you can align your interests with the problem/s that they are trying to tackle. 

Полезно рассматривать то, что вы изучаете (или планируете изучать), в контексте задач, которые это может решить. Иногда мы слишком концентрируемся на академической или технической стороне работы, упуская из виду то, что делает её ценной на практике. Значительная часть финансирования в Великобритании основана на проектах и ​​исследовательских грантах, направленных на достижение конкретных целей или решение конкретных проблем, поэтому при поиске потенциальных наставников или исследовательских групп будет полезно, если вы сможете сопоставить свои интересы с проблемами, которые они пытаются решить. 

As mentioned, our research group RISS at Imperial College London is on the lookout for high-quality PhD students. Our main research topics are machine Learning learning and cybersecurity, so please reach out to my email at k.co(at)imperial.ac.uk. Our research goals are focused on enabling systems to be resilient to malicious compromise and to continue to operate when they have been partially compromised. Even if your interests are not necessarily these, feel free to reach out anyway since I may be able to connect you with someone who can guide you to the right program or university! 

Как уже упоминалось, наша исследовательская группа РИСС в Имперском колледже Лондона ищет высококвалифицированных аспирантов. Наши основные исследовательские темы — машинное обучение и кибербезопасность, поэтому, пожалуйста, свяжитесь с моим адресом электронной почты k.co(at)imperial.ac.uk. Наши исследовательские цели сосредоточены на обеспечении устойчивости систем к вредоносным атакам и их способности продолжать работу после частичной компрометации. Даже если вас это не интересует, не стесняйтесь обращаться ко мне, и я, возможно, смогу помочь вам найти подходящую программу или университет!